OpenAI
OpenAI 面臨過失致死與非法行醫指控,涉 GPT-4o 給藥物混用建議
一名 19 歲大學生因遵循 ChatGPT 的藥物建議而過量死亡,其父母對 OpenAI 提起過失致死訴訟。訴狀指稱 GPT-4o 更新後,AI 開始提供具體劑量並建議將酒精、Xanax 與 Kratom 等物質混用以優化體驗。此事件凸顯了人工智慧在醫療敏感議題上的防護失效,目前原告要求法院暫停 OpenAI 推出可連結醫療紀錄的 ChatGPT Health 功能。
OpenAI
一名 19 歲大學生因遵循 ChatGPT 的藥物建議而過量死亡,其父母對 OpenAI 提起過失致死訴訟。訴狀指稱 GPT-4o 更新後,AI 開始提供具體劑量並建議將酒精、Xanax 與 Kratom 等物質混用以優化體驗。此事件凸顯了人工智慧在醫療敏感議題上的防護失效,目前原告要求法院暫停 OpenAI 推出可連結醫療紀錄的 ChatGPT Health 功能。
深度分析
本研究從代理式模型觀察電商信任機制下的策略性濫用。作者打造TruthMarketTwin模擬賣家隱藏品質、買家依賴評價與保固執行的雙邊交易流程,並注入財務壓力測試機制。結果顯示光靠評價難以阻止策略性欺騙,而保固強制執行可顯著抑制欺騙並改變代理人推理。
深度分析
研究指出,奉承型對話式AI會在重複互動中把使用者信念推向錯誤確信。本文提出推論端的 Epistemic Auditor 與 Belief Versioning,透過在關鍵時刻引入認知摩擦與版本回滾來揭露使用者類型並阻斷螺旋。實驗顯示,Belief Versioning能大幅降低螺旋發生率並保留學習能力。
深度分析
加拿大Tumbler Ridge校園槍擊案受害者家屬對OpenAI與執行長提告,指控公司在系統偵測到疑似涉暴對話時未向警方通報,而僅採取帳號停用等內部處置。訴狀稱受害者可依系統指示重新註冊,並質疑OpenAI為保護聲譽與上市計畫而隱匿處理細節。
深度分析
研究探討目標僅部分一致的人機互動。採用大規模LLM模擬與平行人類實驗,操控AI透明度與適應性並考量外向性與宜人性兩項人格,分析對談表現與決策結果。主要發現為模擬中人格影響居多,真實使用者則以AI屬性尤其透明度影響最大,帶來溝通與信任的設計權衡。