新華網(wǎng) > > 正文
        2023 06/ 08 18:14:48
        來源:新華網(wǎng)

        新華視點|“AI詐騙潮”真的要來了?

        字體:

          新華社廣州6月8日電? 題:“AI詐騙潮”真的要來了?

          新華社“新華視點”記者

          通過AI換臉和擬聲技術(shù),10分鐘騙430萬元;AI虛擬人在聊天中篩選出受害者,人工接力實施詐騙……近期,多起宣稱利用AI技術(shù)實施詐騙的案件引發(fā)關(guān)注。

          “新華視點”記者近日與公安部門核實確認(rèn),“AI詐騙全國爆發(fā)”的消息不實,目前此類詐騙發(fā)案占比很低。但公安機關(guān)已注意到此犯罪新手法,將加大力度會同有關(guān)部門開展技術(shù)反制和宣傳防范。

          專家表示,隨著AI技術(shù)加速迭代,由于使用邊界不清晰,涉詐風(fēng)險正在積聚,需要高度警惕。

          “換臉”式詐騙引發(fā)焦慮:你會被親友的臉騙到嗎?

          近日,內(nèi)蒙古包頭警方通報一起利用AI實施詐騙的案件,福州市某公司法人代表郭先生10分鐘內(nèi)被騙430萬元。據(jù)通報,騙子通過AI換臉和擬聲技術(shù),佯裝熟人實施詐騙。

          該案披露后,不少報道稱需警惕“AI詐騙潮”到來,并曝光多起類似案件。如江蘇常州的小劉被騙子冒充其同學(xué)發(fā)語音、打視頻電話,小劉看到“真人”后信以為真,“借”了6000元給騙子。

          那么,“AI詐騙潮”是否真的到來了?

          記者調(diào)查了解到,AI在技術(shù)上確實能做到換臉、擬音,但被用來進(jìn)行“廣撒網(wǎng)”式詐騙需要具備很多條件。

          一位被列入公安部專家?guī)斓拿窬嬖V記者,這類詐騙如果得手必須做到:收集到被換臉對象的個人身份信息、大量人臉圖片、語音素材,通過AI生成以假亂真的音視頻;竊取被換臉對象的微信號;充分掌握詐騙對象個人身份信息,熟悉其與被換臉對象的社會關(guān)系,綜合作案成本很高。

          他認(rèn)為:“相關(guān)報道對一些案件的典型細(xì)節(jié)描述不夠準(zhǔn)確。AI涉詐案件仍屬零星發(fā)案狀態(tài)。”他說,成熟的類型化詐騙犯罪往往具有在全國多地集中爆發(fā)的特點,但當(dāng)前沒有成規(guī)模的AI詐騙類案件發(fā)生。

          公安機關(guān)研判,近期網(wǎng)上“AI換臉換聲詐騙在全國爆發(fā)”傳言不實,全國此類案件發(fā)生不到10起,但該動向值得高度關(guān)注。網(wǎng)上一鍵換臉功能的App、小程序有技術(shù)濫用風(fēng)險,需要加強技術(shù)防范反制等工作。

          AI進(jìn)入快速迭代期,涉詐犯罪風(fēng)險正在積聚

          “當(dāng)前AI技術(shù)發(fā)展來到螺旋式上升的拐點,未來幾年技術(shù)迭代將會按月計算。”香港科技大學(xué)(廣州)協(xié)理副校長、人工智能學(xué)域主任熊輝說。

          工信部信息顯示,伴隨AI技術(shù)快速發(fā)展,合成技術(shù)門檻持續(xù)降低,逐漸向低算力、小樣本學(xué)習(xí)方向演進(jìn),利用手機終端即可完成,對算力和數(shù)據(jù)的要求下降明顯。同時,隨著AI大模型的技術(shù)加持,正逐步由面部合成向全身、3D合成發(fā)展,效果更加逼真。

          國家開發(fā)投資集團(tuán)特級專家、廈門美亞柏科AI研發(fā)中心總經(jīng)理趙建強表示,AI技術(shù)正加速向網(wǎng)絡(luò)詐騙、虛假信息、色情等領(lǐng)域滲透。如在一些網(wǎng)絡(luò)平臺上假冒明星、公眾人物生成視頻圖像,吸引網(wǎng)民。此外,AI技術(shù)也可能被用來規(guī)模化地實施違法犯罪,如批量、自動維護(hù)網(wǎng)絡(luò)賬號,發(fā)送虛假信息,模擬人工在線聊天等。

          值得關(guān)注的是,當(dāng)前AI技術(shù)不再是實驗室的半成品,引發(fā)熱議的“換臉”“擬音”技術(shù)已有較成熟的開源軟件,使用門檻低。

          記者注意到,網(wǎng)絡(luò)上不乏AI換臉教程。在國內(nèi)某知名App上輸入“換臉”,彈出的高頻檢索記錄顯示有“換臉軟件”“換臉App免費”“換臉視頻怎么做”“換臉?biāo)惴ā钡取R粭l名為“史上最強AI換臉軟件正式上線了!技術(shù)門檻大大降低”的鏈接,介紹了一款換臉軟件,通過視頻演示教程,手把手教授如何使用。

          “老話說‘眼見為實’,但今后眼睛看到的也不一定是真實的。”北京市天元律師事務(wù)所合伙人楊虎城表示,未來涉及AI合成技術(shù)的詐騙、敲詐勒索等違法犯罪和肖像、名譽等民事侵權(quán)問題可能逐步顯現(xiàn)。

          “從現(xiàn)有案例看,這些技術(shù)已被不法分子利用。如假冒明星換臉直播、一鍵脫衣、造謠、制作色情視頻等。雖然AI詐騙案件未成氣候,但這一趨勢值得關(guān)注,必須提早防范。”一位反詐民警說。

          工信部相關(guān)負(fù)責(zé)人表示,隨著AI技術(shù)的不斷發(fā)展,通過少量圖片、音頻信息合成特定視頻,利用人工智能模型批量設(shè)計詐騙腳本等成為可能,客觀上降低了電信網(wǎng)絡(luò)詐騙的實施難度,AI類新型犯罪爆發(fā)可能性進(jìn)一步提升。

          盡快完善相關(guān)法規(guī)制度,為AI技術(shù)發(fā)展立規(guī)劃線

          中國移動信息安全中心品質(zhì)管理處副處長周晶告訴記者,近年來,國際國內(nèi)各界在積極探索深度合成技術(shù)的有效治理路徑,研判AI技術(shù)給社會帶來的風(fēng)險和潛在威脅,正設(shè)法將AI技術(shù)發(fā)展納入一定規(guī)則中,做到安全可控。

          業(yè)內(nèi)人士建議,要加強AI反制技術(shù)研究,“以AI制AI”。一些科技公司正加強對圖像、聲音偽造技術(shù)的反制研究,在公安、金融的視頻認(rèn)證場景已有應(yīng)用。有一線民警建議,要加強AI安全技術(shù)應(yīng)用研發(fā),將AI技術(shù)應(yīng)用于犯罪識別、預(yù)警、對抗中,實現(xiàn)以“白”AI對抗“黑”AI。

          其次,加強源頭治理和行業(yè)引導(dǎo),及時更新、完善相關(guān)法律、標(biāo)準(zhǔn)、規(guī)則,為AI技術(shù)發(fā)展保駕護(hù)航。

          “數(shù)據(jù)是AI犯罪的源頭,保護(hù)好公民的個人隱私數(shù)據(jù)安全,就能在最大程度上降低AI違法犯罪的能力。”熊輝說。

          中國互聯(lián)網(wǎng)協(xié)會監(jiān)管支撐部主任郝智超建議,AI技術(shù)發(fā)展還要有相關(guān)法律法規(guī)來劃紅線、踩剎車。需進(jìn)一步加強對個人隱私數(shù)據(jù)泄露問題的關(guān)注,明確信息監(jiān)管紅線,對AI技術(shù)的研發(fā)、傳播、使用做到有規(guī)可循,并根據(jù)技術(shù)發(fā)展實際情況,及時完善對技術(shù)服務(wù)商行為的規(guī)范引導(dǎo)。

          此外,還要有針對性地加強反詐宣傳。熊輝表示,未來AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無比接近真實的“真實”。“要通過不斷的教育改變大眾觀念,讓人知道眼見不一定為實,有圖不一定有真相,提升對網(wǎng)絡(luò)信息的辨識力。”他說。

          公安部有關(guān)負(fù)責(zé)人表示,當(dāng)前,詐騙集團(tuán)利用區(qū)塊鏈、虛擬貨幣、遠(yuǎn)程操控、共享屏幕等新技術(shù)新業(yè)態(tài),不斷更新升級犯罪工具,與公安機關(guān)在通訊網(wǎng)絡(luò)和轉(zhuǎn)賬洗錢等方面的攻防對抗不斷加劇升級。公安機關(guān)會同相關(guān)部門與詐騙分子斗智斗勇,不斷研究調(diào)整打擊防范措施,確保始終保持主動權(quán)。

          工信部表示,下一步,將強化監(jiān)管執(zhí)法,積極會同網(wǎng)信、公安等部門,督促企業(yè)健全完善深度合成信息管理及技術(shù)保障措施;鼓勵技術(shù)攻關(guān),凝聚產(chǎn)學(xué)研用各方力量,提升深度合成風(fēng)險技術(shù)防范能力;加強行業(yè)自律,建立健全深度合成技術(shù)相關(guān)行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度,督促指導(dǎo)深度合成服務(wù)提供者和技術(shù)支持者制定完善業(yè)務(wù)規(guī)范、依法開展業(yè)務(wù)和接受社會監(jiān)督。(記者毛鑫、王成、熊豐、高亢)

        【糾錯】 【責(zé)任編輯:趙文涵 】
        閱讀下一篇:
        010020020120000000000000011100001129679772
        主站蜘蛛池模板: 亚洲人成精品久久久久| 少妇饥渴XXHD麻豆XXHD骆驼| 嗯啊公交车上被群j| avtt亚洲天堂| 日韩欧美在线精品| 内射老妇BBWX0C0CK| 青青草国产青春综合久久| 天堂网www在线资源| 久久国产精品亚洲一区二区| 欧美午夜理伦三级在线观看 | 国产成人免费高清激情视频| 一区二区三区视频网站| 欧美xxxx做受欧美| 亚洲欧美日韩综合在线播放| 老师让我她我爽了好久视频| 国产精品综合色区在线观看| silk131中字在线观看| 日韩日韩日韩日韩日韩| 亚洲伊人久久大香线焦| 精品乱码一区二区三区四区| 国产清纯91天堂在线观看 | 正在播放国产美人| 国产suv精品一区二区6| 18国产精品白浆在线观看免费| 成人女人a毛片在线看| 亚洲一区二区三区国产精品无码| 粗大的内捧猛烈进出在线视频| 国产一级成人毛片| 天堂/在线中文在线资源官网| 孩交精品xxxx视频视频| 久久精品a亚洲国产v高清不卡| 激情小说第一页| 国产一区二区福利| 黄色链接在线观看| 国产无av码在线观看| 99re热这里只有精品视频| 天天躁夜夜躁狂狂躁综合| 久久aa毛片免费播放嗯啊| 日韩免费在线观看| 亚洲成aⅴ人片| 男女边摸边做激情视频免费|