高風險領域

深度分析

「否定敏感度指標 (NSI)」揭示大型語言模型在醫療與金融等高風險領域的安全盲點

研究發現大型語言模型在處理否定指令時常出錯，開源模型在簡單否定下錯誤贊同禁令高達77%至100%，商業模型亦出現19%至128%的極端波動，醫療情境較金融情境更易受影響。作者提出否定敏感度指標(NSI)作為安全治理度量，並建議以領域門檻分層認證，降低高風險應用的安全風險。