~ / blog / series / LLM 101
❯ ls ~/blog/series/llm-101
7 篇文章
- #日期標題
- 12026-04-07[LLM 101] Ollama vs vLLM:在自己電腦跑 AI 的兩條路
Ollama 像微波爐,vLLM 像專業烤箱。兩個都能在你的電腦上跑 AI 模型,但適合的場景完全不同。這篇用零技術門檻的方式解釋差別、優缺點、和怎麼選。
- 22026-04-08[LLM 101] Dense、MoE、PLE、SSM — 四種 AI 模型架構,一次搞懂
Dense 是全員出動,MoE 是專家輪班,PLE 是每層樓有自己的櫃台,SSM 是速讀高手。用零技術門檻解釋四種主流 AI 模型架構的差別,幫你看懂規格表。
- 32026-04-10[LLM 101] 那麼多模型,到底該下載哪一個?
Gemma、Llama、Qwen、Mistral — 模型清單看得眼花撩亂。這篇用買車的邏輯教你怎麼從大小、速度、品質三個維度選到適合你的 AI 模型。
- 42026-04-10[LLM 101] 什麼是量化?Q4、Q8、FP16 到底差在哪
Q4_K_M、Q8_0、FP16 — 同一個模型有十幾種版本,名字看起來像亂碼。這篇告訴你量化到底在做什麼、為什麼不會把模型搞壞、以及你該下載哪一個版本。
- 52026-04-14[LLM 101] Context Window — AI 一次能讀多少字?
AI 聊到一半就忘記你說過的話?不是它壞了,是它的書桌滿了。這篇解釋什麼是 context window、為什麼對話太長會出問題、怎麼避開這個限制。
- 62026-04-17[LLM 101] 為什麼要在自己電腦跑 AI?不是更便宜的 ChatGPT,是完全不同的工具
本地 AI 不是便宜版 ChatGPT。它是知識萃取器、私有程式碼助手、離線工具。月電費 NT$41 vs ChatGPT Plus NT$640 — 但便宜不等於好用。這篇教你什麼時候該用哪一種。
- 72026-05-23[LLM 101] 怎麼看出 AI 在胡說?三個訊號讓你提早警覺
AI 自信地給你錯答案,語氣跟講真話一樣。三個訊號讓你提早警覺 — 數字超出範圍、細節太精確、重複問會跳號 — 加我自己被 ChatGPT 騙的真實案例。