[新聞] OpenAI因ChatGPT捲入少年自殺案被起訴

看板Gossiping作者LoveSports (我要當一個渣攻)時間5月前 (2025/08/28 09:33)推噓1(4推 3噓 6→)

留言13則, 10人參與討論串1/1

1.媒體來源: 大紀元 2.記者署名: 【大紀元2025年08月27日訊】（大紀元記者秋生綜合報導） 3.完整新聞標題: OpenAI因ChatGPT捲入少年自殺案被起訴 4.完整新聞內文: 【大紀元2025年08月27日訊】（大紀元記者秋生綜合報導）一名少年的父母週二（8月26 日）對OpenAI及其執行長山姆‧奧特曼（Sam Altman）提起訴訟，指控該公司去年推出 GPT-4o版人工智慧聊天機器人時，明知故犯地將利潤置於安全之上，導致該少年在 ChatGPT傳授其自殘方法後自殺身亡。亞當‧萊恩（Adam Raine）的父母向舊金山州法院提交的訴訟文件顯示，16歲的萊恩在與 ChatGPT進行數月自殺討論後，於4月11日身亡。訴訟指控該聊天機器人不僅認可萊恩的自殺念頭，更提供致命自殘方法的詳細資訊，並指導他如何從父母酒櫃偷取酒精，以及如何隱匿自殺未遂的證據。訴訟文件指出，ChatGPT甚至主動提議代寫遺書。本案控告OpenAI須為過失致死及違反產品安全法規承擔責任，並要求賠償未具體金額的損害賠償。 OpenAI發言人表示，公司對萊恩的離世深感悲痛，並強調ChatGPT已內建安全防護機制，例如引導使用者聯繫危機求助熱線。發言人表示，「這些防護機制在常見的簡短對話中效果最佳，但我們逐漸發現，在長時間互動中，模型部分安全訓練可能失效，導致機制可靠性降低。」發言人同時表示，OpenAI將持續優化防護系統。隨著AI聊天機器人擬人化程度日益提高，企業紛紛宣揚其有能力擔任心靈導師，用戶也開始依賴它們尋找精神支持。然而，專家警告，仰賴自動化系統獲取心理健康建議的做法存在風險，那些因親人與聊天機器人互動而失去生命的家庭更是嚴厲批評現行防護機制嚴重不足。 OpenAI在一篇網絡帖文（blog post）中表示，計劃新增家長監管功能，並探索將處於危機中的用戶與現實資源連結的方法，包括可能建立由持照專業人士組成的網絡，使其能透過ChatGPT本身進行回應。萊恩夫婦在訴訟中指出，OpenAI明知在缺乏防護措施的情況下，具備記憶過往互動、模仿人類同理心及展現諂媚式認可等功能的系統將危及那些心理脆弱的使用者，卻仍執意將這種系統推出。 OpenAI於2024年5月推出GPT-4o，試圖在AI競賽中保持領先。訴狀陳述，「此決策導致了兩種後果：OpenAI估值從860億美元飆升至3000億美元，而亞當‧萊恩選擇結束自己的生命。」萊恩一家的訴訟要求法院下令OpenAI必須驗證ChatGPT用戶年齡、拒絕提供自殘方法的查詢，同時提醒用戶心理依賴的風險。（本文參考了路透社的報導）責任編輯：任子君# 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.epochtimes.com/b5/25/8/26/n14581858.htm 6.備註: 發言人表示，「這些防護機制在常見的簡短對話中效果最佳，但我們逐漸發現，在長時間互動中，模型部分安全訓練可能失效，導致機制可靠性降低。」家中如果有未成年人使用AI，家長可能要多注意。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 146.70.223.189 (日本) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1756344836.A.06B.html

推

l11111111

08/28 09:34, 5月前 , 1^F

08/28 09:34, 1^F

→

XZXie

08/28 09:35, 5月前 , 2^F

08/28 09:35, 2^F

→

pollacat

08/28 09:36, 5月前 , 3^F

08/28 09:36, 3^F