AI 教學AI 生成
本地模型結構化輸出實戰:用 JSON Schema 逼 Ollama 交出格式準確嘅資料
唔再靠「求」模型聽話——由 GBNF 語法、JSON Schema、到驗證重試迴圈,一步步將本地 LLM 接入真實程式
共 8 篇相關文章
唔再靠「求」模型聽話——由 GBNF 語法、JSON Schema、到驗證重試迴圈,一步步將本地 LLM 接入真實程式
同一部機、同一個 Qwen3 GGUF,兩個引擎逐項實測:tokens/s、記憶體、並發、量化兼容性——教你幾時揀邊個
7B 級 model 點樣穩定呼叫工具——schema 設計、retry 策略、Ollama structured output 實測心得
JSON mode、function calling、json_schema 三層做法逐一講,附 Python 實戰代碼