Onyx：為 SSD 上的隱匿式近似最近鄰檢索大幅降成本與延遲

Onyx：在 SSD 上做更便宜、更快的隱匿式 ANN

在受信任執行環境中執行近似最近鄰搜尋時，必須倚賴外部 SSD 儲存向量，但磁碟的存取行為會向主機洩漏查詢。雖然 Oblivious RAM（ORAM）能阻止這類洩漏，與現有磁碟型 ANN 技術結合時，往往導致帶寬與存取次數雙重浪費，成本和延遲都很高。

Onyx 採取相反的設計哲學：把帶寬節省放在 ANN 層，把降低存取次數交給 ORAM。理由是 ANN 的近似特性允許更策略性地削減傳輸量；而 ORAM 在存取次數上沒有同樣的理論下界，可以用結構性設計來降次數。

系統由兩個共設計元件構成。Onyx-ANNS 引入緊縮的中介表示，事先剪掉多數會造成大量帶寬負擔的訪問，盡量不犧牲召回率；Onyx-ORAM 則提出具在地性意識的淺層樹結構，以減少實際磁碟存取次數，同時保持與帶寬友善 ORAM 技術的相容性。

作者指出，與先前的隱匿式 ANN 系統相比，Onyx 在成本與延遲上都有顯著改善，代表在第三方 SSD 上保護查詢隱私時，可以取得更佳的成本效率與使用者延遲體驗。

延伸閱讀

• Chimera 框架：在TCAM/SRAM限制下的注意力式神經符號映射與更新協定
• 以 AIE 平鋪與資料流優化實現低延遲推論：對比 hls4ml/FPGA 的設計方法
• NeuroAI 路線圖：連接體、神經形態硬體與事件驅動世界模型的三大關鍵

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。