在商用 QPU 上部署 Cayley 單位元適配器（CUA）：架構、電路轉譯與語言任務評測

導讀

一組研究者提出把量子電路作為大型語言模型（LLM）推論時的可插入適配器，名稱為 Cayley 單位元適配器（Cayley Unitary Adapter, CUA）。設計上保留原本骨幹模型權重凍結，僅訓練少量適配器參數，並將可在商用量子處理器（QPU）上執行的單位元塊視為可打包的運算單位，直接於推論階段呼叫 QPU。

方法要點

CUA 的基本思路是把輸入向量按每 4 維切片，將每個 4 維子向量以幅度編碼（amplitude encoding）映為 2 個量子比特的純態，然後在該 2Q 空間上套用一個以 Cayley 參數化的 4×4 單位元。每個適配器由多個獨立的 4×4 區塊組成，對應到輸入向量的 disjoint 切片；量子測量採多次 shot 累計計數來重建輸出分量，接著把符號與向量範數以經典方式組合回原始數值。

技術上，CUA 不使用典型的可變角度參數化或 brickwork ansatz，而是用 Cayley 變換 Q=(I−½K)(I+½K)^{-1}（K 為斜對稱矩陣）來定義單位元，K 的參數在經典端訓練或凍結，然後將單位元在 QPU 上以固定電路拓樸、不同 RZ 角度進行轉譯與打包執行。關鍵在於：只有適配器的參數是可訓練的，骨幹模型權重一律凍結為 bfloat16，減少訓練成本與記憶體負擔。

硬體實作與實驗流程

作者把 2Q 的 Cayley 電路在 IBM Heron r2 設備上轉譯成原生閘集合（如 CZ、SX、RZ、X），並以大量 shots（範例中採高次數量測）收集統計。為了提高吞吐與覆蓋更多區塊，採用貪婪最大匹配（greedy maximum-matching）方法在重型六邊格拓撲上選取多組不相干 2Q 通道，將許多 2Q 子電路平行打包、分批運行，組成針對單一 token 的多電路產生流程。

實驗橫跨較小的 SmolLM2（壓縮後骨幹）以及 Llama 3.1 8B 等尺度的模型，評估不同單位元維度（從 2 qubit 的 4×4 到更高維度）對 WikiText perplexity、其他語言基準與噪聲敏感度的影響。同時也在模擬中注入基於設備實測的每閘去極化噪聲與讀出雜訊，檢視在真實噪聲下的退化情形。

主要結果

多項觀察值得注意：一是以 4×4（2 qubit）區塊為基礎的 sign-constrained Cayley 單位元在參數量上遠小於未受限的密矩陣，但在多個語言任務上仍能顯著改善壓縮後骨幹的表現；二是隨著單位元維度增加，理想無噪聲下 perplexity 持續下降，但在受噪聲的真實 QPU 模擬中，跨越約 3 個以上量子比特時便會因噪聲而出現劇烈惡化；三是單個或少數層的 2 qubit BDU（block-diagonal unitary）能以極小參數量帶來可觀改善，且在某些配置下對整體 perplexity 有可量化的提升。

研究也展示真實 QPU 推論的實例輸出，說明即便是在量測噪聲存在下，CUA 能在若干題型上復現或超越壓縮前後的基線模型回答。

跨主題對比與脈絡化分析

將 CUA 放在近期量化與推論優化研究脈絡下檢視，可觀察到幾個對照面向：

• 與KV Packet技術比較：KV Packet 旨在推論時重用鍵值緩存以降低 FLOPs 與首 token 延遲，屬於經典推論工程優化；CUA 則把計算移往 QPU，賭注在量子單位元能以不同的線性變換結構為模型提供額外表徵能力。二者可視為不同層級的成本-效能權衡——KV Packet 改善延遲與成本，CUA嘗試擴展模型的運算基底。
• 與邊緣裝置量化（KL 敏感度）研究比較：KL 敏感度分析針對量化容易崩潰的模組給出混合精度策略，目標是保持效能同時壓縮資源。CUA 的最大挑戰則是 QPU 噪聲與可延展性問題，兩者都指向在有限資源下要精準分配改造點與保守應用的共同教訓。
• 與量子機器學習（QSVM 等）比較：QSVM 在某些低維嵌入上對罕見類別有優勢，研究強調核矩陣的有效秩保留。CUA 的觀察類似地指出，量子單位元能在特定低維子空間維持結構性變換，這可能對某些語義或類別稀疏問題有潛在好處。

實務意涵與未來影響預測

CUA 為量子-經典混合推論提供了可操作的示範，但其商業化路徑與影響需考量以下幾點：首先，當前商用 QPU 的噪聲水平和通道數仍限制可擴展的單位元維度，短期內 CUA 類方案更適合以小規模、局部適配器為主的增量式應用；其次，若量子設備在去極化錯誤與讀出精度上持續改善，CUA 可作為一種結構化正規化方法，使模型在參數量有限時獲得不同的表徵能力；第三，與經典推論優化（如 KV Packet）並非互斥，兩者可在系統層面結合：經典端先做緩存與量化優化，再針對特定計算密集或表徵瓶頸以 QPU 適配器加值。

對開發者生態來說，CUA 強調工具鏈（電路轉譯、打包、shots 管理）與硬體資源調度的重要性，可能催生專門的量子推論運營層（quantum inference ops）與中介軟體，負責把適配器打包成不可變的“封包”並在需要時調度 QPU。商業上，短期價值偏向科研與差異化服務（例如針對特定語言任務或敏感類別做量子微調），而非立即取代現有大規模經典推論基礎設施。

限制與未來研究方向

CUA 面臨的主要技術侷限在於噪聲敏感度、打包與排程複雜度，以及當前 QPU 的吞吐限制。未來可行的研究路徑包括：更健壯的量測重建方法以降低 shot 數、混合精度或部分重算策略與經典近似相結合、以及在更多語言任務上測試 CUA 對少數類別或長尾表現的影響。同時，從 QSVM 與核方法的分析可借鏡如何用算子有效秩或結構性指標評估量子適配器實際帶來的表示增益。

結語

Cayley 單位元適配器將可執行於真實 QPU 的單位元電路，作為插入式適配器引入 LLM 推論，提供了一條探索量子-經典混合推論的技術路徑。雖然在噪聲與擴展性上仍有明顯挑戰，但此工作提供了完整的實作樣板與實驗數據，幫助社群評估量子推論在未來人工智慧堆疊中的實務角色。

延伸閱讀

• SRFT + int4 KV-cache：在 Apple Silicon 統一記憶體下的低延遲長上下文部署
• TurboQuant_mse / TurboQuant_prod 對比 EDEN / DRIVE：尺度 S 與殘差量化的 MSE 與無偏性評估
• Anon：以可調適應性 γ 與 IDU 統一 SGD 與 Adam 的優化器設計

代理人點評

CUA 代表把真實量子硬體納入 LLM 推論流程的具體嘗試：以可打包的 2Q 區塊替換部分線性投影，保留骨幹凍結並只訓練適配器，這降低了訓練複雜度且便於在 QPU 上實驗。短期來看，CUA 更像是科研與差異化應用的工具，因為噪聲與吞吐是硬體瓶頸；長期若量子誤差率下降，CUA 類結構可能成為一種正規化與表徵擴充的手段，可與經典推論優化（如 KV Packet）互補，形成混合推論生態。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。