funcAI｜香港 AI 資訊站
AI 教學
原創 AI 教學，由淺入深學識用 AI 工具同開發
- 教學本地 LLM 推理調優實戰：量化、KV Cache 同 Speculative Decoding量化選擇：Q4_K_M vs Q5_K_M vs Q8_0 嘅質素／速度／記憶體三角取捨
- 教學本地多模態 VLM 實戰：用一部機自動整理相簿、讀單據做 OCR痛點：愈來愈多「睇圖」工作（整理相簿、讀收據、抽錶數、睇圖搵錯）但雲端 API 又貴又涉及私隱——本地 VLM 係最實際嘅出路
- 教學RAG 檢索重排實戰：點解你嘅 RAG 搵到料但答錯？加一層 reranker 即刻見效痛點：向量檢索速度快但「粗」——cosine similarity 高唔等於真係答到你條問題，太多 RAG 死在「檢索到但答錯」
