據(jù)人民日報消息，3月5日，在政協(xié)小組討論上，全國政協(xié)委員靳東回應(yīng)了AI換臉導(dǎo)致的詐騙問題。

　　視頻截圖（圖源：人民日報）

　　他說：“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質(zhì)非常惡劣。希望能建立更好的規(guī)則。”

　　據(jù)報道，近年來，通過AI深度偽造技術(shù)假冒名人的事件頻繁發(fā)生。

　　2024年11月，江西一位65歲的女士為了資助其所謂的男朋友“靳東”拍攝電影，前往銀行欲辦理200萬元的貸款。經(jīng)調(diào)查發(fā)現(xiàn)，該女士在短視頻平臺上認(rèn)識的“靳東”是騙子冒充的，騙子所發(fā)布的視頻也是由AI合成的。

　　雷軍個人賬號截圖

　　2024年國慶期間，網(wǎng)絡(luò)上出現(xiàn)了一些利用AI技術(shù)偽造雷軍聲音和形象的惡搞視頻，視頻中的“雷軍”使用不雅語言對堵車等多個話題進(jìn)行“銳評”，給雷軍本人帶來了不小的困擾。

　　報道截圖（圖源：央視新聞）

　　2025年初，有網(wǎng)友發(fā)現(xiàn)，疑似知名醫(yī)生張文宏化身“帶貨主播”，在網(wǎng)絡(luò)平臺售賣產(chǎn)品。經(jīng)核實(shí)，這個“張文宏”實(shí)際上是通過AI技術(shù)合成的，視頻中的他不斷介紹產(chǎn)品，聲音和形象都與本人極為相似，導(dǎo)致許多消費(fèi)者信以為真。對此，張文宏回應(yīng)稱，這樣假冒自己賣貨的賬號不止一個，而且一直在變，他已多次向平臺投訴，但違規(guī)賬號屢禁不止。

　　前不久，“劉曉慶接受采訪”等視頻在網(wǎng)上流傳，劉曉慶本人隨后緊急辟謠：“畫面是我，聲音很像我，但不是我！這是怎么做到的？”

　　據(jù)了解，所謂“AI換臉”，實(shí)際上是通過精準(zhǔn)識別人臉圖像，提取關(guān)鍵面部特征，并利用深度合成技術(shù)將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合。在此基礎(chǔ)上，通過背景環(huán)境渲染和合成聲音的添加，生成看起來非常真實(shí)的虛假視頻。這一技術(shù)也徹底顛覆了人們對于“眼見為實(shí)”的傳統(tǒng)認(rèn)知。

　　技術(shù)本身并無善惡，只是一些不法分子為了謀取私利，濫用此技術(shù)，將一些名人的臉替換到特定的視頻中，制造出虛假的內(nèi)容，實(shí)行詐騙。

　　關(guān)于如何對“AI換臉擬聲”加強(qiáng)管理，在2025全國兩會上，多位全國人大代表提出相關(guān)建議。

　　雷軍兩會提議（圖源：雷軍個人公眾號）

　　小米集團(tuán)創(chuàng)始人、董事長兼CEO雷軍提出：關(guān)于加強(qiáng)“AI換臉擬聲”違法侵權(quán)重災(zāi)區(qū)治理的建議。建議的方向?yàn)椋?、加快單行法立法進(jìn)程，在安全與發(fā)展并重的基礎(chǔ)上提升立法位階。2、強(qiáng)化行業(yè)自律共治，壓實(shí)平臺企業(yè)等各方的責(zé)任和義務(wù)。3、加大普法宣傳的廣度力度，增強(qiáng)民眾的警惕性和鑒別力。

　　此外，全國人大代表陳達(dá)也表示，應(yīng)加強(qiáng)對AI技術(shù)的立法監(jiān)管，防止它被用于違法犯罪活動，特別是針對老年人和未成年人的網(wǎng)絡(luò)詐騙。

   投稿郵箱：chuanbeiol@163.com   詳情請?jiān)L問川北在線：http://dstuf.com/