Ai

tiny-llm-runner 深入解讀 (6)：runner.rs —— Forward Pass 與 KV Cache 的編排 June 6, 2026
tiny-llm-runner 深入解讀 (5)：ops.rs —— Transformer 的六種樂高積木 June 5, 2026
tiny-llm-runner 深入解讀 (4)：model.rs —— 把扁平張量組成 Llama 結構 June 4, 2026
tiny-llm-runner 深入解讀 (3)：tensor.rs —— 用生命週期蓋一層薄殼 June 3, 2026
tiny-llm-runner 深入解讀 (2)：dequant.rs —— 量化、Block、與內積核心 June 2, 2026
tiny-llm-runner 深入解讀 (1)：config.rs —— 把 GGUF metadata 變成 Rust 強型別 June 1, 2026
純手工 vs. 全功能框架：tiny-llm-runner 與 candle 的架構對照 May 30, 2026
用純 Rust 跑 Llama：從 GGUF 到 Token 的零 C 依賴推論引擎 May 30, 2026
用 Rust 打造本地 LLM 工作站 (四)：整合 Vulkan GPU 加速與 libmtmd 本地多模態語音推論 May 25, 2026
理解多模態 LLM 原理：從 GGUF 封裝到 REST API 的影像與文字融合技術 May 24, 2026
用 Rust 打造本地 LLM 工作站 (三)：編譯嵌入式 Web UI 與 Axum 靜態資源整合 May 24, 2026
本地 LLM 工作站：用 Python、Node.js、Rust 輕鬆串接 OpenAI 相容 API May 24, 2026
用 Rust 打造本地 LLM 工作站 (二)：Axum 串流與 OpenAI 相容 API 的實現 May 24, 2026
用 Rust 打造本地 LLM 工作站：llama.cpp 原生整合與 Hugging Face 模型管理 May 21, 2026
用 Rust 手寫 GGUF 解析器：記憶體映射與二進位讀取實戰 May 20, 2026