【AI開發排坑】Android Studio 串接本地 Ollama AI 大模型:RTX 4060 與 16K Context 全速效能調校實戰

在 Android Studio 中串接本地 LLM(如 Google Gemma 12B)進行程式碼輔助開發時,常常會遇到「生成速度極慢(甚至只有 3~12 tok/s)」或者「跳出 404 Model Not Found」的坑。

這篇文章記錄了我用 RTX 4060 Laptop (8GB VRAM) 實測排坑的完整過程,從硬體瓶頸診斷、Context 上限優化,到 Android Studio 原生 AI 模組的正確設定方法!

1. 瓶頸診斷:為什麼顯卡沒吃滿,速度卻很慢?

剛開始運作 gemma4:12b 時,開啟 Windows 工作管理員發現 GPU 使用率只有 67%,但生成速度卻非常卡頓(Prompt Eval 甚至低至 3.28 tokens/s)。

關鍵原因解密:

記憶體頻寬瓶頸(Memory Bandwidth Bound):LLM 在推論時是一字字(Token)生成的,GPU 核心大部分時間都在「等待顯存(VRAM)傳送權重資料」,因此 CUDA 核心利用率在 60%~70% 且溫度達 74°C 時,VRAM 傳輸頻寬其實已經完全吃滿。

Context Window (64K) 擠爆 VRAM:預設或 APP 帶入過大的 64K 上下文時,KV Cache 會佔用數 GB 的顯存。以 8GB VRAM(扣除系統桌面後實質可用約 6.6GB)來說,顯存不足會導致資料溢出(Offloading)到系統 RAM 與 CPU,速度直接暴跌。
文章標籤:

LEON90326 發表在 痞客邦 留言(0) 人氣()


在處理公務文件、撤回告訴狀、各式申請表單或契約時,我們常常會收到 PDF 格式的空白表格。想在電腦上用 Word 填寫內容後印出,但直接將 PDF 轉 Word 卻總是遇到字型跑版、表格變形、格式亂掉的慘劇?

今天這篇文章就來分享最標準、最專業的解法:將 PDF 轉為圖片後置入 Word 的「頁首背景」。無論是單頁表單還是多頁表格,都能完美維持原版型,且在填寫時絕對不會誤觸移動底圖!

為什麼不直接放在「文中背景」?三個關鍵理由

許多人直覺會把圖片直接貼在 Word 的文中當背景,但這常導致以下問題:

  1. 突破邊界限制:Word 預設有頁面邊界,放在「文中」很難完全貼齊 A4 紙張邊角;置於「頁首」層級則能無視邊界限制,完美全頁涵蓋。

  2. 徹底鎖定不誤觸:放在文中編輯時,滑鼠極易誤點到背景圖片導致移位;放在「頁首」後,退出頁首模式圖片就會被 Word 自動鎖定,怎麼點都不會跑版。

  3. 自動繼承版型:若為同版型的多頁文件,放在頁首會自動套用至全文件。

文章標籤:

LEON90326 發表在 痞客邦 留言(0) 人氣()


黑雲壓城,極寒與熾熱在天際瘋狂交織。

蕭炎單膝跪在焦黑的廢墟中,右手死死按住胸口。體內那股狂暴的「焚天怒焰」正在狂亂奔湧,如萬針穿心、滾油澆骨。這功法固然擁有摧枯拉朽、徹底焚盡一切病灶與強敵的絕對霸道,但每跨階催動一次,經脈遭受的焚毀之痛便足以讓人精神崩潰。

「負隅頑抗。」高空中,魔將居高臨下,漆黑的魔氣如附骨之疽,化作萬道利刃直刺而下,「今日便將你的經脈徹底撕碎!」

蕭炎咬緊牙關,雙目赤紅。他能強行推動體內的暴戾力量將對方連同這片天地一同抹殺,但代價是自己的經脈將瞬間寸斷,萬劫不復。

就在那萬道魔刃即將貫穿蕭炎體魄的瞬間,一道清涼如月華的光芒驟然張開。
文章標籤:

LEON90326 發表在 痞客邦 留言(0) 人氣()

[Dynamics 365 FO] dev issue ca

原因是因為本地的build directory 沒有包含到2022的build target

C:\Program Files (x86)\MSBuild\Microsoft\Dynamics\AX

取得方法或途徑:

去AssetLibrary取得Depli 解壓縮後 在 DevToolsService\Scripts 內取得這兩個東西 複製到 C:\Program Files (x86)\MSBuild\Microsoft\Dynamics\AX\

完成後重新讀取即可:

LEON90326 發表在 痞客邦 留言(0) 人氣()

1. 資料型態對照表

分類
Delphi
C#
Byte / 位元組

LEON90326 發表在 痞客邦 留言(1) 人氣()

算一算從2013.12.2開始已經五年了耶!

就這麼樣離開這大公司多少有點不捨,但還是要向前行,對吧。

給自己的人生多點挑戰吧!

沒有你的桃園應該很無聊。

但為了成為讓你依賴更好的我,我會挺住加油的。

LEON90326 發表在 痞客邦 留言(0) 人氣()


一、簡介

魏延(生年不詳,卒年234年),字文長,荊州義陽郡人,三國時期蜀漢前中期重要將領,作戰英勇、並有將略、屢立戰功,深得蜀主劉備信任、丞相諸葛亮重用。於諸葛亮北伐時期出任前軍師,主理北伐時前線戰事之決策。

史載之名聲、功績,與趙雲相近或略勝之。而在前將軍關羽、左將軍馬超、右將軍張飛、後將軍黃忠之後。

劉備進位漢中王時,魏延遷鎮遠將軍領漢中太守,趙雲遷翊軍將軍領中護軍。

後主年代建興元年,魏延為鎮北將軍,封都亭侯,趙雲則至鎮東將軍、封爵永昌亭侯(亭侯)。

LEON90326 發表在 痞客邦 留言(0) 人氣()


一、制定標準單位為ISO(國際標準組織),ISO 3758:2012(Text — Care labelling code using symbols),而台灣服飾標示制度是由商品標示法(CNS)「紡織物品洗標」授權制定的「服飾標示基準」

洗燙處理標示(洗標)之規定:

(一)洗燙處理標示(洗標)應包含水洗、乾洗、漂白、乾燥、熨燙之圖案。

(二)洗滌處理方式分水洗及乾洗兩種,若上開兩種方式均可使用者,應兩種同時標示,若兩種均不可使用者,應標示「不可水洗、不可乾洗」,或以適當圖案表示之。若其中一種不可使用時,則應明確標示之。

(三)乾燥處理方式包含滾動烘乾、擰扭、吊掛及平放四種,經測試織品後僅選擇其中一種標示之。

LEON90326 發表在 痞客邦 留言(1) 人氣()

LEON90326 發表在 痞客邦 留言(0) 人氣()

要是我現在離開了,只會讓這班廢物認為我就是那樣脆弱才會離開的。

不過也就幾點簡單事情而已,也可以給弄得這麼心機,不錯。

想回台灣的念頭逐漸發酵,但就跟當初馬祖一樣,我是來成長的不是來玩的。

我是來賺錢的,不是來給弄的,我會讓你閉嘴就對了,給我看著。

我不會弄你,我會超越你。

LEON90326 發表在 痞客邦 留言(0) 人氣()

有一對夫妻他們住在80樓,有一天他們去爬山。
回到家裡的時後,發現大廈大停電。
雖然他們背著大背包,但是又沒有其他的辦法,滿身臭汗,趕著回家洗澡。
老婆跟老公說:「我們不如走上去吧!別等了。」
老公也同意,於是兩人就走樓梯回家了

LEON90326 發表在 痞客邦 留言(0) 人氣()

從那之後的故事,慢慢說卻也不知道從何說起。

討好了誰,卻也沒讓誰真的滿意;

多想努力,卻也沒真的去證明了甚麼。

金門這一趟讓人腦袋清楚了不少,想了許多。

其實自己的雙腳並不是這麼的走不動,只是不想走、捨不得走,吧。

LEON90326 發表在 痞客邦 留言(0) 人氣()

⚠️

成人內容提醒

本部落格內容僅限年滿十八歲者瀏覽。
若您未滿十八歲,請立即離開。

已滿十八歲者,亦請勿將內容提供給未成年人士。