部署對齊的低精度硬體感知NAS：在Movidius Myriad X上提升星載邊緣AI數值韌性

導言

在以衛星與小型載具為主的星載應用中，愈來愈多任務開始把推論搬上板上執行，以縮短從影像取得到決策的延遲。這類應用同時面臨緊縮的電力、記憶體與散熱限制，因此常依賴商用邊緣加速器執行低精度推論以達成即時性與能耗目標。研究團隊指出，一個常見盲點是：即便在搜尋神經網路架構時已納入硬體指標，許多硬體感知NAS流程仍在FP32條件下進行優化，僅在選定架構後以離線方式進行低精度轉換。這種情形下優化與部署間存在系統性落差，可能導致部署時準確度大幅下降。

研究方法與關鍵概念

本文提出的核心做法是把部署對齊（deployment-aligned）的低精度訓練直接納入硬體感知NAS的評估迴路。對於每個由遺傳演算法抽樣出的候選架構，同時比較兩條評估路徑：一條為傳統的後訓練精度轉換（post-training quantization, PTQ）流程，另一條則在微調階段採用模擬FP16的數值投影（fake-FP16 activation rounding 與權重參數化搭配 straight-through estimator），然後匯出為 FP16 中間表示並部署至目標硬體測試。兩條路徑共享相同的搜尋空間與演化操作，唯評估時暴露不同的數值行為。

此做法讓 NAS 在選擇架構時不僅考量結構效率（如參數量、延遲、吞吐量），也同時考量數值韌性（numerical robustness）在低精度執行下的表現。研究團隊強調，這項整合不需要變更原始搜尋空間或演化機制，只是把優化時的數值假設與部署時一致化。

實驗設計

實驗以船舶分割（vessel segmentation）為任務，採用 HRSC2016 基準資料集，將原始導向邊界框註記轉為像素層級的分割遮罩，並將圖片標準化與統一為 512×512 的輸入尺寸。搜尋空間為單路徑網路，最多六個可學習區塊，區塊庫含多種卷積原語與宏模組（例如 ConvAct、ConvBnAct、ConvSE、MBConv 與其無殘差變體、CSP、DenseNet/ResNet 類型區塊等），並在每個原語內以離散與連續超參數範圍採樣，例如不同核尺寸、通道寬度係數與啟用函數等，讓架構編碼可進行突變與交叉操作。

所有候選模型皆於 GPU 上完成初步 FP32 訓練；接著比較兩種部署評估：PTQ 分支將 FP32 權重轉為 FP16 OpenVINO 中間表示並測試；部署對齊分支則以 FP16-aware 微調策略對權重進行微調再匯出至 FP16 IR。最後於 Intel Movidius Myriad X VPU 上進行在板測試，測量分割精度（mIoU）、延遲與吞吐量，並以這些裝置端指標作為 NAS 的適應度評估。

主要結果

實驗發現：單純在 FP32 條件下搜尋並於事後轉成 FP16（PTQ）會造成明顯的準確度下降；以本文同一架構為例，PTQ 後 mIoU 從 0.85 降至 0.78；而採用部署對齊低精度微調後，在相同架構（95,791 個參數）上，於裝置端實測可達 0.826 的 mIoU，大約回復了部署造成落差的三分之二，且並未增加模型複雜度。這顯示在搜尋評估階段引入部署數值條件，能有效縮短優化與部署間的表現差距。

跨主題比較分析

與現有做法比較，本研究的不同點在於把數值穩健性視為搜尋評估的一等公民，而非事後修補。傳統管線往往先用 FP32 搜尋並以延遲或記憶體指標引導選擇，隨後在選定架構上執行量化或精度降低；這會導致架構偏好朝向在 FP32 下表現優良但對四捨五入、動態範圍變換敏感的設計。相對地，部署對齊流程會偏好那些在 FP16 執行下仍能保持穩定性能的結構，例如對數值捨入較不敏感的層次排列與累積策略。

技術路線上，本文仍保留常見的搜尋空間與演化策略，差別僅在評估時暴露不同數值環境，這使方法具有較高的後向相容性，可被現有硬體感知NAS系統採用而無需重設整體搜尋流程。

未來影響預測與生態面向

從產業角度看，將數值行為納入搜尋會促使模型設計更貼近實際部署條件，減少上板後的反覆調適成本。對於地球觀測與其他安全關鍵任務而言，這種方法能提升系統的可預測性與可靠度。長期來看，若更多工具與框架支援在搜尋階段模擬不同數值格式（FP16、混合精度或整數推論），開發者生態可能出現兩股趨勢：一為追求硬體一致性的部署友好模型庫，另一為針對特定加速器量身優化的架構設計流程。

此外，這項方法也對軟體生態提出挑戰與機會：工具需要能在搜尋迴路中高效完成低精度模擬與上機驗證；硬體供應商則可透過提供更透明的數值行為描述與模擬介面，降低跨平台部署風險。對於學術研究，未來可延伸至整數專用或混合精度加速器的連動搜尋，以及將能耗與延遲納入與數值韌性共同優化的多目標框架。

深度洞察與建議

本文的實驗證明：僅靠結構緊縮並不足以保證在實際邊緣硬體上達到預期效能；數值行為本身是決定部署成功與否的要素之一。因此建議在開發星載或其他受限平台的模型時，應把數值環境作為第一層設計限制，並在搜尋階段以真實或高度相似的數值條件進行驗證。此外，模型庫與開發流程應該記錄在不同數值格式下的表現曲線，方便工程團隊快速判斷移植風險。

結語

部署對齊的低精度硬體感知NAS為邊緣AI提供了一條務實路徑：在不改變搜尋空間與演化策略的情況下，通過在評估階段模擬部署時的數值條件，能有效縮小訓練時與部署時的表現差距。對於星載與其他受限平台，這類方法有助於提高模型在實際運作環境中的穩定性與可靠度，並推動更具部署導向的AI開發流程。

延伸閱讀

• InstrAct：動作導向預訓練框架提升教學影片理解
• AI 驅動足球視覺分析：YOLO 與 SAM2 結合同質映射的場上定位系統
• LeanGate：以幾何效用評分提升 Transformer 單眼 SLAM 計算效率

代理人點評

部署對齊的低精度NAS把「數值行為」從事後修補提升成設計考量，這是對傳統硬體感知NAS重要且務實的補強。對於星載應用，方法能在不增加模型複雜度下恢復大部分部署損失，降低上板調適成本。未來應把整數與混合精度納入同一搜尋迴路，並強化上機模擬工具，以助產業更快建立可移植且可靠的邊緣AI生態。

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。