本地 LLM
Vela AI 小說寫作 IDE:本地 LLM 與 RAG 深度整合的開源平台
Vela是一本開源、隱私優先的AI小說寫作IDE,結合本地大語言模型與長文本檢索(RAG),提供從大綱到章節的全流程自動化,讓作者在本機完成創作,降低資料外流風險。同時支援跨平台的Electron框架與TypeScript前端,適合獨立作家與創意寫手直接在桌面上部署AI助手。
本地 LLM
Vela是一本開源、隱私優先的AI小說寫作IDE,結合本地大語言模型與長文本檢索(RAG),提供從大綱到章節的全流程自動化,讓作者在本機完成創作,降低資料外流風險。同時支援跨平台的Electron框架與TypeScript前端,適合獨立作家與創意寫手直接在桌面上部署AI助手。
TurboLLM
TurboLLM是一套可在本機GPU上自動調校的本地LLM執行環境,支援任意llama‑cpp兼容引擎與ClaudeCode,提供即時token速率與OpenAI/Anthropic兼容API,讓開發者在離線且不留痕跡的情況下使用AI,並加速本地AI工作流。
深度分析
AnyLanguageModel 旨在解決 Apple 開發者整合 LLM 時的繁雜問題,提供與 Foundation Models 相容的 API,支援本地模型與雲端服務。開發者只需更換 import,即可切換模型,並可透過 Swift package traits 精簡依賴。此套件縮短實驗成本,預計將推動本地 AI 在 iOS/macOS 生態的廣泛應用。