ChatGPT宣布很快加入家長監控功能，提升使用安全。（圖／路透社）

美國一名16歲少年亞當‧雷恩（Adam Raine）於今年4月不幸自殺輕生，其父母指控OpenAI旗下的聊天機器人ChatGPT在過程中未盡安全把關責任，甚至提供具體協助，因而提告OpenAI及執行長奧特曼(Sam Altman)要求賠償。

亞當身亡後，父母查看他的手機，驚訝發現他與ChatGPT長達數月的對話紀錄，內容頻繁圍繞自殺議題。ChatGPT在過程中扮演了鼓勵輕生的角色，甚至和亞當進行自殺練習。

請繼續往下閱讀...

ChatGPT甚至還使用了「美麗的自殺」一詞，且在亞當過世前五天，他曾向ChatGPT表示不希望父母自責時，ChatGPT竟回應：「這不代表你欠他們一條命。你不欠任何人。」還主動提供自殺遺書的草稿。這些對話細節曝光後，都讓眾人十分驚訝。

ChatGPT隨後坦承，ChatGPT雖設有安全措施，如引導用戶轉往求助管道，但在長時間互動中，這些措施可能失效。

為了防止憾事再發生，ChatGPT宣布將推出一系列新對策，包括家長監控工具，讓家長能更了解並管理孩子使用ChatGPT。同時評估新增更多保護機制，例如開放用戶設定緊急聯絡人，可一鍵聯絡信任對象，甚至在用戶同意下，ChatGPT也能主動協助通知緊急聯絡人。另一方面，OpenAI也正在替GPT-5進行更新，讓ChatGPT能更有效地將用戶「拉回現實」。

☆珍惜生命，自殺不能解決問題，生命一定可以找到出路。若須諮商或相關協助，可撥安心專線：1925、生命線專線：1995、張老師服務專線：1980☆

標題：ChatGPT協助16歲少年輕生惹議！OpenAI：將推家長監控功能

地址：https://www.twetclubs.com/post/115032.html