apple-silicon
oMLX:針對 Apple Silicon 的本地 LLM 推理與分層 SSD 快取管理
一款為 Apple Silicon 優化的本地 LLM 推理伺服器,由 macOS 選單列管理模型與資源。採用連續批次處理與熱記憶體加 SSD 冷快取的分層 KV 儲存策略,使上下文在請求間持久可復用。主要影響是提升本地模型在開發與工具整合時的實用性,降低對雲端的依賴。
apple-silicon
一款為 Apple Silicon 優化的本地 LLM 推理伺服器,由 macOS 選單列管理模型與資源。採用連續批次處理與熱記憶體加 SSD 冷快取的分層 KV 儲存策略,使上下文在請求間持久可復用。主要影響是提升本地模型在開發與工具整合時的實用性,降低對雲端的依賴。
CopilotKit
CopilotKit是一個專為代理人與生成式介面設計的前端堆疊,支援React與Angular。其核心以AG-UI協定為骨幹,提供共享狀態與human-in-the-loop工作流程,並以MIT開源授權釋出,助力代理式應用快速建置與模組化開發。
firstdata
FirstData 是一個以 AI 代理(Agent)為優先使用者設計的開源資料源知識庫,目標把分散且非結構化的權威原始資料轉為可追溯、可程式存取的結構化事實。
LLM
FindJobs-Agent 是一個開源的求職自動化套件,結合大型語言模型(LLM)、網路爬蟲與人工智慧面試模組,從職缺爬取到面試準備提供一條龍流程。專案具備多廠商職缺爬蟲(API 與 Selenium 雙模式)、自動化資料清理、技能標註與重要性評分、履歷解析與匹配計算,以及多回合面試模擬與即時回饋。
n8n
隨著自動化需求持續升溫,開源平台n8n以TypeScript打造可視化與程式碼並存的工作流程,引入LangChain支援AI代理,提供400多項整合與自部署選項,讓企業在保護資料的同時加速數位轉型。同時採用公平授權確保源碼可見,活躍社群提供超過900套範本,降低開發門檻。
速報
這個開源專案打造面向AI代理人的深度研究引擎,同步搜尋四十個頻道與十餘個中文來源,涵蓋論文、開發者社群與中文討論區。系統採用MCP-native架構,與大型語言模型解耦,回傳去重並排序的多來源索引結果,且附來源網址,幫助代理人跨平台比對與實證檢索。
PaddleOCR
GitHub上的開源專案PaddleOCR提供一套以輕量化模型為核心的文件OCR與文檔解析工具。它結合多語言文字辨識、PDF結構抽取與影像預處理等做法,幫助將影像或PDF轉為可供大型語言模型使用的結構化資料,促進自動化資訊擷取與下游應用。在實務上具備多平台部署與社群採用實例。
cherry-studio
GitHub上出現新興開源專案CherryStudio,聚焦人工智慧工作流程與代理人協作。專案整合智慧聊天、自主代理與300多位助手,提供統一介面連接前沿大型語言模型。其主要影響為加速開發者生產力並引發治理與資安討論。專案採用AGPL-3.0授權並在社群間引發討論。
RAG
Pathway的llm-app提供即用RAG與AI管線範本,能與GoogleDrive、Sharepoint、S3、Kafka、PostgreSQL等資料來源即時同步,內建向量檢索、混合檢索與全文索引,方便本機測試後部署到雲端或內部環境以強化企業搜尋與即時問答能力。
neovim
Minuet 是一個針對 Neovim 的開源外掛,將多家大型語言模型整合為「即時逐字」程式補完體驗。專案支援包括 OpenAI、Gemini、Claude、Ollama 與 Llama.cpp 等供應者,並提供虛擬文字(virtual text)、nvim-cmp 與內建 LSP 的補完模式選項。
YAMS
YAMS 是一個針對大型語言模型與應用的持續性記憶系統,採用 SHA‑256 內容位址儲存並支援區塊去重與壓縮。它結合 SQLite 全文搜尋與向量嵌入檢索,提供快照與 Merkle 樹差分管理。此專案仍屬實驗階段,若成功可降低 LLM 記憶成本並提升本地部署彈性。
MCP
OKX發布AgentTradeKit,透過ModelContextProtocol將AI助理直接接入交易帳戶。本地執行,API金鑰僅存在使用者機器。套件含MCP伺服器與CLI,提供市況資料、下單、演算法委託與交易機器人等功能,強調讀取模式與速率限制等安全控管,降低部署基礎設施需求。