decoder-only Transformer

深度分析

AFM 架構解析：Apple 的 decoder-only Transformer、適配器（LoRA）與 Private Cloud Compute

Apple發布AFM基礎語言模型，包含可在裝置執行的約3億參數等級型與供PrivateCloudCompute的伺服器模型。模型採Transformer解碼器、RoPE長序列、GQA與SwiGLU等效能優化，並以LoRA適配器實現任務專化。強調隱私優先與責任AI，調整本機效能與私有雲推論的權衡。