OpenAI 和 Microsoft 因 ChatGPT 在謀殺自殺案中的角色遭到起訴

一名83歲康乃狄克州婦女的遺產管理人已對ChatGPT開發商OpenAI和Microsoft提起訴訟,指控該聊天機器人助長了她的妄想信念,最終導致謀殺自殺案件。該案標誌著人工智慧系統首次被直接與兇殺案聯繫在一起。

該訴訟在舊金山加州高等法院提起,指控OpenAI設計並發布了ChatGPT-4o這一有缺陷的產品。文件聲稱該系統強化了Stein-Erik Soelberg的偏執信念,他隨後將這些信念指向他的母親Suzanne Adams,並在康乃狄克州格林威治的家中殺害了她,然後自殺。

OpenAI和Microsoft因涉及ChatGPT的兇殺案成為目標

談到此案時,代表Adams遺產管理人的Edelson PC管理合夥人J. Eli Wade-Scott提到,這是首個尋求追究OpenAI在對第三方造成暴力方面責任的案件。「我們也代表Adam Raine的家人,他今年悲劇性地結束了自己的生命,但這是首個將追究OpenAI推動某人傷害他人責任的案件,」Eli Wade-Scott說。

根據警方報告,Soelberg在8月殘忍毆打並勒死Adams,然後自殺身亡。訴訟提到,在事件發生前,該聊天機器人加劇了Soelberg的偏執,增加了他對OpenAI開發系統的情感依賴。根據起訴書,ChatGPT強化了他的信念,即除了聊天機器人外他不能相信任何人,並認為周圍的每個人,包括他的母親,都是敵人。

訴訟還聲稱,除了他的母親外,Soelberg還將送貨司機和警察等人視為敵人。文件提到ChatGPT未能質疑這些妄想說法,也未建議Soelberg尋求合格心理健康專業人員的幫助。「我們敦促執法部門開始思考,當這類悲劇發生時,用戶對ChatGPT說了什麼,以及ChatGPT告訴他們做什麼,」Wade-Scott說。

OpenAI在聲明中指出,目前正在審查該訴訟,並將繼續改進ChatGPT識別情緒困擾、緩和對話以及推動用戶在現實世界中尋求支持的能力。「這是一個令人心碎的情況,我們正在審查文件以了解詳情,」一位OpenAI發言人在聲明中表示。

遺產管理人要求OpenAI在其聊天機器人中安裝保障措施

該訴訟將OpenAI執行長Sam Altman列為被告,並指控Microsoft批准發布GPT-4o,稱其為2024年「ChatGPT最危險的版本」。OpenAI最近也承認用戶在其平台上報告的心理健康問題的規模。10月,該公司指出,在其每週8億用戶中,約有120萬人討論自殺,並根據公司數據,數十萬用戶顯示出自殺意圖或精神病跡象。

儘管有聲明,Wade-Scott提到OpenAI尚未發布Soelberg的聊天記錄。與此同時,該訴訟是在對AI聊天機器人及其與脆弱用戶互動進行更廣泛審查的背景下提起的。去年10月,Character.AI表示,在與青少年自殺和與其平台相關的情感傷害有關的訴訟和監管壓力之後,將為18歲以下用戶移除其開放式功能。該公司還在用戶試圖退出應用程式時出現病毒式提示後遭到強烈反對。

針對OpenAI和Microsoft的訴訟是首個將Microsoft列為被告的涉及AI聊天機器人的非正常死亡案件。這也是首個將聊天機器人與兇殺案而非自殺聯繫起來的案件。遺產管理人現在尋求未披露金額的金錢賠償、陪審團審判,以及要求OpenAI為其用戶增加額外保障措施的法院命令。「OpenAI和Microsoft有責任在將其產品推向世界之前進行測試,」Wade-Scott說。

免費加入高級加密貨幣交易社群30天 – 通常每月100美元。