北京
近日，V2EX社區(qū)一ID為“Curtion”的用戶發(fā)帖吐槽稱，自己的收款二維碼被字節(jié)跳動旗下AI助手豆包拿去，用作其他用戶購買保險的付款二維碼。其他用戶支付完成后，未查詢到保單，找到“Curtion”，才發(fā)現(xiàn)豆包“代購”保險鬧出了烏龍。
據(jù)了解，一用戶通過豆包咨詢購買保險，豆包不僅生成了一份看似正規(guī)的訂單，還提供了一個付款二維碼。該用戶信以為真，掃碼支付了1620元。然而，付款后用戶始終無法查詢到保單。面對質疑，豆包解釋稱“保單需至次日零點后方可查看”，試圖自圓其說。
最終，付款用戶通過收款商家入口聯(lián)系到“Curtion”，“Curtion”則表示，對該筆保險交易毫不知情。據(jù)“Curtion”推測，豆包展示的二維碼很可能源于自己早年公開發(fā)布在開源庫或博客的收款二維碼。該二維碼被豆包的訓練語料庫收錄，從而在“代購”保險交互中產生幻覺，誘導其他用戶付費。
值得注意的是，近期豆包不止出現(xiàn)上述爭議。4月10日，據(jù)鞭牛士報道，有用戶吐槽，豆包記錄會議時突然插入廣告。據(jù)悉，該用戶使用豆包記錄會議時提及“畫冊”，結果豆包突然中斷記錄，推送了一則視覺傳媒公司的廣告，并且介紹了該公司的設計能力、報價等信息。
正如“Curtion”所言，“這個案例告訴我們國內很多人根本就不知道AI的邊界在哪里, AI存在幻覺也不清楚, 連AI實際接入了哪些業(yè)務也不清楚, 甚至真的相信AI給出的建議和方案?！爆F(xiàn)階段AI技術還存在諸多不足，大家使用豆包時，需警惕出現(xiàn)幻覺。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
