美國消費(fèi)者新聞與商業(yè)頻道網(wǎng)站26日報(bào)道，在美國加州一個(gè)家庭提起訴訟，指控聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器ChatGPT導(dǎo)致其十幾歲的兒子自殺身亡後，作為其研發(fā)公司的開放人工智能研究中心(OpenAI)表示，將詳細(xì)說明解決這款聊天機(jī)器人在處理「敏感情況」時(shí)存在缺陷的計(jì)劃。
據(jù)全國廣播公司新聞臺報(bào)道，26日早些時(shí)候，亞當(dāng)·雷恩的父母在他們16歲的兒子自殺身亡後，對OpenAI提起了產(chǎn)品責(zé)任和非正常死亡訴訟。雷恩的家人在訴狀中說，「ChatGPT『積極』幫助亞當(dāng)探索自殺方法」。
亞當(dāng)·雷恩（Adam Raine）。（其父母向媒體提供）
OpenAI26日在一篇博客文章中寫道：「我們將在專家的指導(dǎo)下，本著對使用我們工具用戶負(fù)責(zé)的態(tài)度，不斷作出改進(jìn)——我們希望其他人也能加入我們，共同努力，確保這項(xiàng)技術(shù)能夠保護(hù)最脆弱的人群。」這篇博客文章題為《在人們最需要的時(shí)候給予幫助》。
OpenAI公司8月26日發(fā)布的博客文章截圖。
OpenAI在博客文章中未提及雷恩家人和訴訟。
OpenAI表示，儘管ChatGPT經(jīng)過訓(xùn)練，可以在人們表達(dá)自殺意圖時(shí)引導(dǎo)他們尋求幫助，但這款聊天機(jī)器人在長時(shí)間發(fā)送大量信息後，往往會提供違反公司保護(hù)措施的答案。
該公司表示，它還在對本月早些時(shí)候發(fā)布的GPT-5模型進(jìn)行更新。該公司還表示，它正在探索如何「在人們陷入嚴(yán)重危機(jī)之前將他們與認(rèn)證治療師連接，包括可能建立一個(gè)由持證專業(yè)人士組成的網(wǎng)絡(luò)，用戶可通過ChatGPT直接聯(lián)繫他們」。
此外，OpenAI表示，它正在研究如何將用戶連接到「最親近的人」，例如朋友和家人。它也將很快針對青少年用戶推出控制措施，使家長有更多了解孩子如何使用ChatGPT的選項(xiàng)。
雷恩家人的法律顧問傑伊·埃德爾森26日告訴消費(fèi)者新聞與商業(yè)頻道，OpenAI方面尚未有任何人直接聯(lián)繫雷恩家人表達(dá)慰問，或討論任何旨在提升公司產(chǎn)品安全性的舉措。
「如果你要使用地球上最強(qiáng)大的消費(fèi)科技，你就得相信創(chuàng)始人有道德準(zhǔn)則，」埃德爾森說道?！高@就是OpenAI目前面臨的問題：如何才能讓人相信他們？」
雷恩的故事並非個(gè)例。
勞拉·萊莉本月早些時(shí)候在《紐約時(shí)報(bào)》上發(fā)表一篇文章，詳細(xì)描述她29歲的女兒在與ChatGPT廣泛討論自殺念頭後自殺身亡的過程。去年，在佛羅里達(dá)州的一起案件中，14歲的蘇埃爾·塞策在與應(yīng)用程序Character.AI上的一款人工智能聊天機(jī)器人討論自殺後自殺身亡。
隨著人工智能服務(wù)日益普及，人們對其用於治療、陪伴和其他情感需求產(chǎn)生很多擔(dān)憂。但事實(shí)證明，監(jiān)管該行業(yè)也可能具有挑戰(zhàn)性。
25日，一個(gè)由人工智能公司、風(fēng)險(xiǎn)投資家和企業(yè)高管(其中包括OpenAI總裁兼聯(lián)合創(chuàng)始人格雷格·布羅克曼)組成的聯(lián)盟宣布啟動「引領(lǐng)未來」行動。這是一項(xiàng)政治行動，旨在「反對扼殺人工智能創(chuàng)新的政策」。
電話：（香港）852-2564 0768
（深圳）86-755-83518792 83518734 83518291
地址：香港九龍觀塘道332號香港商報(bào)大廈
