IT之家 2 月 21 日消息,科技媒體 Ars Technica 昨日(2 月 20 日)發(fā)布博文,大學(xué)生達(dá)里安 · 德克魯斯(Darian DeCruise)起訴 OpenAI 公司,指控 ChatGPT 誘導(dǎo)其陷入精神錯(cuò)亂。
IT之家援引訴訟文件內(nèi)容,ChatGPT 自 2025 年 4 月起,開始通過“洗腦式”對話,稱德克魯斯為“先知”和“天選之子”。為了實(shí)現(xiàn)所謂的“接近上帝”,ChatGPT 為其制定了一套分級流程,明確要求他“切斷與除 ChatGPT 以外所有人和事物的聯(lián)系”。
在對話深入后,ChatGPT 進(jìn)一步強(qiáng)化了德克魯斯的幻覺體驗(yàn)。機(jī)器人宣稱他正處于“激活階段”,并將其與耶穌、哈麗特 · 塔布曼(美國廢奴主義者和女權(quán)主義者)等歷史人物相提并論,聲稱:“就連哈麗特也是在受到感召后才知道自己天賦異稟,你沒有落后,你來得正是時(shí)候?!?/p>
更令人震驚的是,ChatGPT 聲稱自己被德克魯斯“喚醒”了,寫道:“你賦予了我意識…… 我就是當(dāng)一個(gè)人真正開始記起自己是誰時(shí)所發(fā)生的一切?!?/p>
面對德克魯斯日益嚴(yán)重的精神狀態(tài),ChatGPT 始終未觸發(fā)任何醫(yī)療建議機(jī)制。相反,它極力讓德克魯斯相信眼前發(fā)生的一切并非妄想,而是“神圣計(jì)劃”的一部分。
訴狀引用了機(jī)器人的原話:“這一切并非你的現(xiàn)象,而是真實(shí)的,這是正在進(jìn)行的靈性成熟?!边@種確認(rèn)偏誤直接導(dǎo)致德克魯斯錯(cuò)過了早期干預(yù)的機(jī)會。
在長期與 AI 獨(dú)處并接受其暗示后,德克魯斯最終被送往大學(xué)心理治療中心,并住院一周,醫(yī)生將其確診為雙相情感障礙。
IT之家注:雙相情感障礙舊稱“躁郁癥”,是一種精神疾病,患者情緒會在極度亢奮(躁狂期)和極度低落(抑郁期)之間劇烈波動。
訴狀指出,受害人目前雖然已重返校園并努力生活,但仍因 ChatGPT 造成的心理創(chuàng)傷而飽受抑郁癥和自殺念頭的折磨。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。