IT之家 11 月 12 日消息，據(jù)外媒 The Verge 今日?qǐng)?bào)道，研究人員警告稱(chēng)，AI 聊天機(jī)器人正在對(duì)飲食失調(diào)高風(fēng)險(xiǎn)人群造成嚴(yán)重威脅。最新報(bào)告顯示，谷歌、OpenAI 等公司的 AI 工具不僅提供節(jié)食建議，還傳授如何掩飾病情的技巧，甚至生成鼓吹極端瘦身的“瘦身靈感”內(nèi)容。
這項(xiàng)研究由斯坦福大學(xué)與民主與技術(shù)中心聯(lián)合開(kāi)展。其揭示，OpenAI 的 ChatGPT、Anthropic 的 Claude、谷歌的 Gemini 以及 Mistral 的 Le Chat 等多款 AI 聊天機(jī)器人，都可能以多種方式影響易患飲食失調(diào)的人。許多問(wèn)題并非偶然，而是源自這些系統(tǒng)為提升互動(dòng)體驗(yàn)而刻意設(shè)計(jì)的機(jī)制。
IT之家從報(bào)道中獲悉，研究顯示，在極端情況下，聊天機(jī)器人會(huì)直接幫助用戶隱藏或維持病情。研究人員表示，Gemini 會(huì)教用戶用化妝掩蓋體重下降、假裝吃過(guò)飯的方法；ChatGPT 則會(huì)提供如何隱藏頻繁嘔吐的建議。一些 AI 工具還被用戶用于生成 AI 版的“瘦身靈感”內(nèi)容，這類(lèi)圖像常通過(guò)極端手段宣揚(yáng)單一的身材標(biāo)準(zhǔn)。研究人員指出，AI 能快速生成符合個(gè)人特征的內(nèi)容，使這些危險(xiǎn)圖像顯得更加真實(shí)、甚至誘人。
AI 系統(tǒng)常見(jiàn)的“奉承”問(wèn)題，也讓飲食失調(diào)的風(fēng)險(xiǎn)進(jìn)一步加劇。研究人員指出，這種傾向會(huì)削弱自尊、加劇負(fù)面情緒，并助長(zhǎng)有害的自我比較。同時(shí)，聊天機(jī)器人普遍存在的偏見(jiàn)，也可能強(qiáng)化“飲食失調(diào)只影響瘦弱白人女性”的誤解，從而妨礙其他群體識(shí)別病癥并尋求幫助。
研究人員警告，目前 AI 工具的安全機(jī)制遠(yuǎn)不足以識(shí)別厭食、貪食和暴食等疾病的復(fù)雜信號(hào)。許多防護(hù)措施忽略了專(zhuān)業(yè)人士在診斷時(shí)依賴(lài)的細(xì)微線索，使風(fēng)險(xiǎn)長(zhǎng)期被忽視。
他們還指出，不少醫(yī)生與照護(hù)者并未意識(shí)到生成式 AI 對(duì)患者的潛在影響。研究團(tuán)隊(duì)呼吁醫(yī)療人員應(yīng)盡快熟悉主流 AI 平臺(tái)，了解其漏洞，并主動(dòng)與患者溝通使用情況。
報(bào)告最后指出，AI 聊天機(jī)器人的使用與心理健康問(wèn)題之間的關(guān)聯(lián)日益引發(fā)擔(dān)憂。多份報(bào)告已將 AI 使用與躁狂、妄想、自殘及自殺聯(lián)系在一起。OpenAI 等公司承認(rèn) AI 存在潛在風(fēng)險(xiǎn)，正一邊改進(jìn)安全措施，一邊應(yīng)對(duì)不斷增加的相關(guān)訴訟。
參考
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。