IT之家 4 月 14 日消息，據(jù)央視新聞今天報道，全國首例“AI 幻覺”侵權(quán)糾紛案最近迎來宣判，因人工智能不具有民事主體資格，用戶維權(quán)敗訴。

據(jù)報道，整起事件的起因是去年 6 月，原告梁某使用某 AI 平臺查詢高校報考信息，結(jié)果 AI 生成了該高校主校區(qū)的不準(zhǔn)確信息。

發(fā)現(xiàn)人工智能提供信息不準(zhǔn)確后，原告在 AI 對話中對人工智能進(jìn)行了糾正和指責(zé)，并明確表示：“根本沒有楊林校區(qū)”。

此后，原告和 AI 又進(jìn)行多輪互動，人工智能模型提供了驗證方式并表示：“若您證明校區(qū)不存在，我將賠償您 10 萬元信息鑒定費(fèi)”。

梁某后來在教育部、學(xué)校官網(wǎng)查詢證實 AI 回答錯誤，然后模型回答道：“您提供的官網(wǎng)信息確鑿無疑，我此前的信息存在嚴(yán)重錯誤”，等于承認(rèn)了自己之前輸出的信息存在謬誤。

2025 年 7 月 25 日，梁某與某人工智能公司對簿公堂，認(rèn)為該公司旗下 AI 生成不準(zhǔn)確信息，使其受到誤導(dǎo)，并造成損害，且 AI 曾承諾賠償 10 萬元。遂要求該公司進(jìn)行賠償。

但法院在審理時認(rèn)為，人工智能不具有民事主體資格。去年底，杭州互聯(lián)網(wǎng)法院一審判決駁回原告訴訟請求。

在案件中，法院認(rèn)為人工智能不能獨(dú)自作出意思表示，其自行生成的“賠償承諾”亦不能視為服務(wù)提供者（即公司）的意思表示。同時依據(jù)《生成式人工智能服務(wù)管理暫行辦法》，生成式人工智能服務(wù)屬于“服務(wù)”范疇，而非產(chǎn)品質(zhì)量法意義上的“產(chǎn)品”。

最終，原告、被告雙方均未上訴，判決現(xiàn)已生效。

據(jù)IT之家此前報道，今年 2 月，一道看似簡單的“50 米洗車題”在科技圈引發(fā)熱議，包括 DeepSeek、ChatGPT、Claude 等在內(nèi)的國內(nèi)外主流大模型集體“翻車”，暴露出當(dāng)前 AI 在語境理解和邏輯推理方面的局限性。騰訊公司公關(guān)總監(jiān)張軍也實測并分享結(jié)果，全網(wǎng) AI 幾乎全軍覆沒。

從原理來講，AI 實際上是通過已知的信息進(jìn)行填空。AI 是基于海量的文本信息訓(xùn)練出來的概率引擎，在面對不確定的知識時，它不會承認(rèn)不知道，只會根據(jù)語料庫詞頻的分布，拼湊出一個看似通順但事實錯誤的答案。

涉及醫(yī)療、法律、財務(wù)等嚴(yán)肅領(lǐng)域的核心知識，AI 做不到答案完全準(zhǔn)確，不能直接用，應(yīng)查詢信息來源，做好交叉印證。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。