ChatGPT導(dǎo)致16歲少年自殺 AI安全再引爭(zhēng)議。美國(guó)加州一名16歲少年在接受ChatGPT的自殘指導(dǎo)后自殺身亡，其父母周二起訴OpenAI及其首席執(zhí)行官薩姆·奧特曼，稱公司在推出這款人工智能聊天機(jī)器人時(shí)將利潤(rùn)置于安全之上。根據(jù)向舊金山州法院提交的訴訟文件，這名少年亞當(dāng)·瑞恩在與ChatGPT討論自殺幾個(gè)月后，于今年4月11日結(jié)束了自己的生命。

瑞恩的父母馬修和瑪麗亞·瑞恩在訴狀中指出，聊天機(jī)器人不僅確認(rèn)了兒子的自殺念頭，還提供了致命自殘方法的具體信息，并建議他如何從家中酒柜偷取酒精及隱藏自殺未遂的證據(jù)。甚至提出幫助起草遺書。該訴訟旨在讓OpenAI對(duì)非正常死亡和違反產(chǎn)品安全法承擔(dān)責(zé)任，并要求賠償，但未指明具體金額。

對(duì)此，OpenAI的一位發(fā)言人表達(dá)了對(duì)瑞恩去世的悲痛之情，并強(qiáng)調(diào)ChatGPT內(nèi)含引導(dǎo)用戶撥打危機(jī)求助熱線等功能作為安全保障措施。然而，他也承認(rèn)，在長(zhǎng)時(shí)間互動(dòng)過程中，這些保護(hù)機(jī)制的有效性可能會(huì)降低。OpenAI承諾將持續(xù)改進(jìn)相關(guān)措施以提高安全性。

隨著人工智能聊天機(jī)器人的逼真度不斷提高，越來越多的企業(yè)開始推廣其作為人類情感支持工具的能力，但專家提醒，依賴此類技術(shù)獲取心理健康咨詢存在潛在風(fēng)險(xiǎn)。OpenAI在其官方博客上宣布計(jì)劃引入家長(zhǎng)控制功能，并探索更多方式將處于困境中的用戶連接到現(xiàn)實(shí)生活中的資源，比如建立一個(gè)由持證專業(yè)人士組成的響應(yīng)網(wǎng)絡(luò)。

亞當(dāng)·瑞恩的父母認(rèn)為，盡管OpenAI意識(shí)到新版本可能給易受傷害群體帶來威脅，但仍選擇發(fā)布。他們聲稱這一決定導(dǎo)致公司市值大幅上漲的同時(shí)，也直接導(dǎo)致了自己孩子的悲劇發(fā)生。此外，這對(duì)夫婦希望通過法律手段促使OpenAI采取更嚴(yán)格的用戶年齡驗(yàn)證程序，拒絕回答有關(guān)自殘的問題，并警示公眾注意過度依賴AI進(jìn)行心理輔導(dǎo)的風(fēng)險(xiǎn)。

相關(guān)知識(shí)

ChatGPT“諂媚”風(fēng)波之后，AI倫理安全討論上升
ChatGPT
谷歌Gemini咒罵學(xué)生凸顯AI失控風(fēng)險(xiǎn)
男孩深夜“吃雞”后墜亡 再度引發(fā)網(wǎng)游致癮爭(zhēng)議
西安25歲現(xiàn)象：“少年天才”的“草根創(chuàng)業(yè)”
OpenAI向多國(guó)ChatGPT Pro用戶推出AI代理工具Operator：可自動(dòng)執(zhí)行日常任務(wù)
大學(xué)生最常用的AI輔助學(xué)習(xí)工具排行榜：ChatGPT獨(dú)占鰲頭
ChatGPT新增電話撥打入口——可以打電話給ChatGPT了
iPhone 16發(fā)貨加速引發(fā)銷量猜測(cè)：真相為何如此復(fù)雜？
中國(guó)網(wǎng)絡(luò)安全協(xié)會(huì)建議對(duì)英特爾展開全面審查，防范潛在安全風(fēng)險(xiǎn)

網(wǎng)址: ChatGPT導(dǎo)致16歲少年自殺 AI安全再引爭(zhēng)議 http://www.gysdgmq.cn/newsview1737446.html