北京
當(dāng)全球警察忙著把AI塞進(jìn)調(diào)查流程，喊著更快破案、更高結(jié)案率時，一個反直覺的現(xiàn)象冒了出來：有些警察不是在用AI找人，而是在用AI造證據(jù)。
英國德比郡警方正在調(diào)查一起案件。一名警察被指控使用生成式人工智能，在多起案件中“制造證據(jù)材料”。這名警察尚未被逮捕，但已被暫停職務(wù)，等待德比郡警方和皇家檢察署的調(diào)查結(jié)果。
德比郡警方發(fā)言人告訴《金融時報》：“已就一名警官涉嫌利用人工智能系統(tǒng)在多起案件中制造證據(jù)材料，展開妨礙司法公正的刑事調(diào)查?！边@是英國首例此類案件。
時間點(diǎn)很微妙。就在幾天前，英國新成立的全國警察人工智能中心剛發(fā)布指導(dǎo)意見，建議警員不要再用生成式人工智能準(zhǔn)備法庭陳述——因?yàn)檫@技術(shù)會“產(chǎn)生幻覺”?！拔覀儗σ恍┚?duì)說，你們不能這么做，因?yàn)檫€沒有走完所有檢查和平衡程序，”該中心負(fù)責(zé)人亞歷克斯·默里告訴《金融時報》，“需要放慢一點(diǎn)?！?/p>
AI幻覺鉆進(jìn)警察報告這事，之前就有。美國猶他州警察的報告里曾赫然寫著：一名警官變成了青蛙。這算懶到一定程度了。但德比郡的調(diào)查顯然指向更嚴(yán)肅的問題——不是無意出錯，而是蓄意制造。
更接近的參照，是去年緬因州警察被抓包的事。他們在社交媒體發(fā)布“緝毒”照片，卻被人一眼看出是用生成式AI處理過的。
全球執(zhí)法機(jī)構(gòu)加速整合AI的同時，錯誤逮捕數(shù)量也在上升——人臉識別系統(tǒng)把速度與準(zhǔn)確性割裂成兩件事。但比誤認(rèn)嫌疑人更讓人擔(dān)心的，是技術(shù)本身開始變成捏造證據(jù)的工具。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
