PennyLang：為 PennyLane 建構的 LLM 訓練資料集與 RAG 評估

隨著量子運算逐步走向實務應用，針對量子軟體開發的輔助工具需求也跟著上升。PennyLang 是針對 PennyLane 框架設計的資料集與評估流程，目標是為大型語言模型（LLM）提供高品質、可用於訓練或微調的 PennyLane 專屬程式碼範例，進而提升 LLM 在量子程式碼生成與說明撰寫的能力。該計畫不僅蒐集與整理大量範例，還建立制度化的清理、標註與格式化流程，並以檢索增強生成（Retrieval-Augmented Generation，RAG）評估其對生成品質的影響。

資料蒐集與過濾策略

PennyLang 的資料來源包括公開的 GitHub 倉庫、兩本量子運算教科書與官方 PennyLane 文件，最終匯集成 3,347 筆 PennyLane 專屬範例。研究團隊在抓取時採取多項品質控管措施：僅擷取主分支最新提交的公開倉庫、排除 fork 倉庫、僅處理 Python 檔案，並檢查是否明確導入 PennyLane，例如程式碼中出現 import pennylane as qml 才納入候選。為避免自動生成或非核心程式碼干擾，像是例如測試日誌或套件設定檔等自動生成的大型檔案被排除，確保範例以可執行且具代表性的量子電路或說明為主。

標註、格式化與預處理流程

在原始程式碼蒐集完成後，PennyLang 以系統化流程進行資料精煉與標註，包含移除多餘的授權與作者註解、補齊必要的上下文描述，以及為每個範例加入結構化的 metadata。為了讓 LLM 更容易學習「自然語言任務→程式碼」的映射，團隊使用現有的高階語言模型 API 將程式碼與說明轉換成指令—回應（instruction—response）格式，並以 JSON 形式輸出，以利下游模型微調或作為 RAG 檢索索引的輸入。此流程旨在提高訓練資料的一致性與任務導向性，使模型能學到具體的程式碼風格與使用情境。

RAG 評估架構與實驗結果

為了量化資料集的實用性，研究採用檢索增強生成（RAG）框架進行評估。實驗比較在有無檢索增強條件下，多款大型語言模型生成 PennyLane 程式碼的表現，評估指標包括功能性、語法正確性與模組化設計等面向。結果顯示，使用檢索增強後，多數測試模型的表現均有所提升；報告指出不同模型在正確性與模組化等指標上的增益包括 7.6%、11.67% 與 14.38%，但各模型與指標間仍存在差異。

與現有資源的比較與意義

現有公開研究與工具多半集中在 Qiskit 生態，造成資源分布不均。PennyLang 專注於 PennyLane，讓研究社群與開發者能取得更貼近變分量子電路與量子機器學習應用的範例集。匯整出的資料與可複現的資料製作流程，能協助後續研究建立相容的評估基準，也讓開發者更快取得可用於偵錯、教學與原型開發的範例。

結語與產業影響

PennyLang 的貢獻在於把分散於論文、文件與開源倉庫的 PennyLane 程式碼匯聚並淬鍊成訓練友好的資料集，同時示範以 RAG 強化檢索對量子程式碼生成的實際幫助。對於希望在混合量子—古典工作流程中使用 AI 助手的開發者而言，專屬且高品質的資料集能降低入門門檻並提升生產力。未來若擴展更多實機回饋、跨框架比較以及多樣化的教學型範例，PennyLang 建立的資料工程方法論可望成為推動量子軟體生態普及的重要一環。

延伸閱讀

• 使用 KernelGen‑LM 與 NPUKernelBench：LLM 驅動的 NPU 核心生成與驗證方法
• GUIDE：將能耗感知納入LLM協調器的模型選擇與Pareto最佳化框架
• DiZiNER：以分歧分析驅動的指引精煉提升零樣本NER

代理人點評

PennyLang 在量子程式碼自動化領域做出實務性且具可重複性的貢獻。以 PennyLane 為中心蒐集並精煉格式化的資料，解決了現有資源偏散與偏向 Qiskit 的問題，這對量子機器學習與變分電路的開發尤其重要。實驗以 RAG 驗證檢索增強能實質改善模型在功能性與模組化上的表現，顯示資料品質與檢索策略對於專業領域的程式碼生成同樣關鍵。下一步若能納入更多實機測試與多樣化場景，將更能評估 AI 助手在真實開發流程的價值。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。