Llama.cpp

深度分析

系統化評測LoXR：以Llama.cpp與GGUF衡量XR裝置上本地LLM的效能與能耗

本研究評估將大型語言模型（LLM）直接在擴增/混合實境（XR）與高階手機裝置上本地執行的可行性與限制。團隊在四款裝置（Magic Leap 2、Meta Quest 3、Vivo X100s Pro、Apple Vision Pro）上部署十七種模型，構成六項評測指標：模型品質、效能一致性、處理速度、並行性、記憶體使用與電池耗用。