IT之家 6 月 7 日消息，據(jù)英國《金融時報》報道，由于擔(dān)憂人工智能生成的不準(zhǔn)確內(nèi)容會擾亂司法流程，英國多個警察部門已接到通知，停止使用人工智能系統(tǒng)撰寫法庭陳述及開展其他刑事司法相關(guān)工作。

英國警方人工智能中心（Police.AI）負責(zé)人亞歷克斯?默里表示，他已介入干預(yù)部分警隊。這些警隊在未完成全面合規(guī)評估的情況下，就開始使用市面上的商用人工智能工具。

“我們已經(jīng)叫停了部分相關(guān)應(yīng)用。”默里稱，他告知相關(guān)警隊：“立刻暫停使用，我們需要放緩?fù)七M節(jié)奏?！?/p>

他補充道，應(yīng)用于刑事司法體系的任何技術(shù)，其準(zhǔn)確性都必須達到排除合理懷疑的嚴(yán)苛標(biāo)準(zhǔn)。

此次叫停行動，凸顯出生成式人工智能在警務(wù)領(lǐng)域的應(yīng)用爭議日益加劇。默里負責(zé)監(jiān)管英格蘭和威爾士地區(qū)警方的人工智能使用工作。他表示，這項技術(shù)最終有望加快案件偵查與證據(jù)處理效率，但全面推廣使用前必須先建立完善的安全保障機制。

Police.AI 于今年正式成立，是英國政府為提升警務(wù)整體效率推出的改革舉措之一。英國內(nèi)政大臣沙巴娜?馬哈茂德表示，該項目三年合計獲 1.15 億英鎊（IT之家注：現(xiàn)匯率約合 10.46 億元人民幣）資金支持，投入使用后節(jié)省的人力時間，相當(dāng)于為英格蘭和威爾士現(xiàn)有的約 14.5 萬名在職警員增配 3000 名警力。

據(jù)默里介紹，部分警隊開始借助商用人工智能系統(tǒng)，協(xié)助警員將審訊筆錄整理為法庭陳述文書，警方人工智能中心隨即出手干預(yù)。

默里并未透露涉及的具體警隊，但他表示，警方同時也收到提醒：在完成全部合規(guī)審查前，不得將人工智能應(yīng)用于其他警務(wù)工作。

“我們明確告知部分警隊：目前不能這么做，因為全套審核與制衡流程尚未走完。”他說道。

他特別指出，證據(jù)披露清單的編制工作需要格外謹(jǐn)慎。這類清單是庭審前必須提交給辯方的證據(jù)記錄。使用人工智能處理該項工作的警隊，必須說明該技術(shù)的訓(xùn)練方式與實際應(yīng)用流程。

默里坦言，警方此前使用人工智能已有過前車之鑒。去年，西米德蘭茲郡警方在整理一份禁令佐證材料時，使用了微軟智能助手 Copilot 生成的內(nèi)容。這份材料旨在申請禁止某足球俱樂部球迷觀賽，其中竟編造出以色列特拉維夫馬卡比隊的一場過往賽事。相關(guān)球迷原定前往現(xiàn)場觀看該隊與阿斯頓維拉隊的比賽。

這起事件進一步引發(fā)了各界對人工智能幻覺問題的廣泛擔(dān)憂，人工智能幻覺也就是人工智能系統(tǒng)生成看似真實、實則虛假信息的現(xiàn)象。

“目前所有警隊都已出臺規(guī)范使用 Copilot 的相關(guān)制度，規(guī)定警員必須核查該工具生成的所有內(nèi)容?！蹦镎f。

盡管存在諸多隱患，但默里認為，經(jīng)過全面測試的人工智能系統(tǒng)，能夠為深陷工作量激增、案件偵查日趨復(fù)雜困境的警隊帶來顯著助益。

監(jiān)控錄像分析就是極具前景的應(yīng)用方向?，F(xiàn)階段，警員往往要耗費數(shù)小時人工回看錄像，從中搜尋嫌疑人。

默里表示：“只要指令設(shè)置得當(dāng)，人工智能完全可以做到按要求檢索，比如‘找出戴紅帽子的男子’。在證據(jù)尚存關(guān)鍵價值的黃金數(shù)小時乃至一兩天內(nèi)，我們就能鎖定目標(biāo)、上門抓捕，當(dāng)場查獲帶有血跡的鞋證。”

他還提到，人工智能有能力處理海量電子證據(jù)，兒童性侵案件偵查便是典型場景。目前警方人工智能中心正在研發(fā)一款工具，可對查扣設(shè)備中的圖片進行識別與分類，減少警員直接瀏覽不良影像的次數(shù)。

默里說：“警員只需抽樣核驗即可，不必逐一查看全部畫面。這類內(nèi)容會對人的身心造成極大傷害。我認為，只要配套完善監(jiān)管規(guī)則、使用規(guī)范與人員培訓(xùn)，自動化技術(shù)帶來的益處遠大于弊端。”

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。