安全強化學習

深度分析

SteinGate：利用核化 Stein 差異提升安全強化學習的尾部風險感知

安全強化學習常以期望累積成本作為安全指標，卻易忽視罕見的極端失敗。研究提出SteinGate，利用核化Stein差異檢測政策成本分布與安全參考分布的一致性，並在風險超標時切換至安全恢復模式。實驗顯示此方法大幅降低訓練期間的違規次數與嚴重度，同時保持競爭的回報表現。