LLM 自動篩選簡歷的提示注入攻擊：少數人操弄即能提升排名
研究探討大型語言模型在自動篩選簡歷時，求職者透過微妙的自我宣傳文字（提示注入）試圖影響模型評分的行為。實驗顯示，當簡歷品質相近且僅少數人使用此技巧時，排名提升顯著；但隨著使用者增多，效果快速衰退，甚至出現公平性問題，低品質候選人偶爾能超越高品質者。
大型語言模型（LLM）正被越來越多公司用於自動篩選與排序求職者，這也讓應徵者有動機透過策略性操作系統以提升自身排名。研究者將此行為稱為「提示注入」——在簡歷中加入微妙的自我宣傳文字，雖不提供新資格，但旨在影響 LLM 的評分。
實驗設計與結果
研究採用受控實驗，先讓簡歷品質保持同質，然後讓少數候選人使用提示注入。結果顯示，這些候選人的排名明顯提升。然而，當更多人開始使用相同技巧時，排名提升效果迅速減弱，最終在廣泛操弄下幾乎失效。
在簡歷品質異質的情況下，提示注入的平均效用較低，但仍可能讓部分低品質候選人暫時超越高品質者，凸顯公平性風險。
安全與公平性考量
整體而言，LLM 為基礎的簡歷篩選系統在操弄稀少且候選人品質差異小時最易受攻擊。研究者呼籲企業在部署此類自動化招聘工具時，應加入防範機制，避免因少數人的策略性文字而扭曲選才結果。
相關程式碼與資源已公開於 GitHub。
延伸閱讀
原始來源：ArXiv AI
系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。
