← 回主題列表 TOPIC · GENERATIVE AI 101

🎓 生成式 AI 導論

新聞和文件裡那些名詞——Token、LoRA、量化、CoT、Agent、MCP、RAG—— 七堂課一次講懂。每個名詞一句話重點、一段真實工具的程式碼、 一個在瀏覽器裡親手玩的實驗;示範全部來自真實執行,不畫大餅。 不用數學背景、不用裝任何東西。

BASICS · 01

🔤 Token、Embedding 與上下文窗

同一句話,中文比英文多花 70% 的 token——點四句話看真 tokenizer 怎麼下刀, 親手訓練一個迷你 BPE,再逛 16 個真向量的語意地圖。

開始上課 →
TRAINING · 02

🏋️ 模型是怎麼練成的:預訓練到 RLHF

預訓練燒 15 兆 token,LoRA 只調 0.5% 的參數——蒸餾的「暗知識」、 GRPO 的群組評分,全部真的算給你看。

開始上課 →
SPEED · 03

⚡ 推理加速:KV Cache、量化與 vLLM

8B 模型 fp16 要 15 GB、int4 只要 3.7 GB——KV Cache、量化、投機解碼、 MoE 一次拆完,你的顯卡塞不塞得下馬上知道。

開始上課 →
REASONING · 04

🤔 會思考的模型:CoT 與 Reasoning Model

同一題,直接答是 55(錯)、一步一步想是 5(對)——實測紀錄重播給你看, 再看多數決怎麼從 6/9 的答對率投出正解。

開始上課 →
AGENTS · 05

🤖 AI Agent 與 MCP:模型長出手腳

模型自己決定「這題要查天氣」並吐出 JSON——四步實測 trace 重播, 拆穿 function calling 的水電工程,順便看懂 MCP 為什麼是 AI 界的 USB。

開始上課 →
DEVSTYLE · 06

🛠️ 新開發範式:Vibe Coding 到 Spec-Driven

同一個需求,四種交給 AI 的姿勢——context 塞對了直接省 69% token(實測), 再看規格驅動開發怎麼把 vibe 變成工程。

開始上課 →
RAG · 07

📚 RAG 與向量資料庫:先查再答

沒給手冊,模型一本正經教你把咖啡機「裝滿咖啡液體」;給了手冊,句句有據—— 先查再答的全部數學,就是第 1 課那個 cosine。

開始上課 →