深度分析
大型語言模型 AI 審稿的抽象重寫漏洞:實驗結果與治理建議
隨著 AI 輔助審稿普及,研究發現僅透過重新措辭摘要即可提升 AI 評分。實驗涵蓋 AI、醫學等多領域,攻擊成功率約 38%,在原本被 AI 判為拒稿時成功率超過 50%,且能提高對論文完整性、貢獻度等核心指標分數。此低成本語言操控漏洞若未加防護,可能顛覆未來學術決策流程,導致作者為機器評分而非科學價值寫作。
深度分析
隨著 AI 輔助審稿普及,研究發現僅透過重新措辭摘要即可提升 AI 評分。實驗涵蓋 AI、醫學等多領域,攻擊成功率約 38%,在原本被 AI 判為拒稿時成功率超過 50%,且能提高對論文完整性、貢獻度等核心指標分數。此低成本語言操控漏洞若未加防護,可能顛覆未來學術決策流程,導致作者為機器評分而非科學價值寫作。
深度分析
審稿負擔激增,研究以ICLR2026評審資料比較人類與AI評論,發現AI評審出現明顯群體思維與論文漂白現象;透過零次自動重寫,AI評分可被文風改動顯著提升,且使評論語態與內容趨同。研究主張在全面採用前須建立嚴謹實證評估、抗操弄測試與多元意見保護。