“中國的兄弟姐妹你們好,我是俄羅斯娜娜。”
最近,一個(gè)名為@俄羅斯娜娜 的賬號(hào)忽然走紅抖音網(wǎng)絡(luò)。視頻中,一個(gè)長著“俄式假臉”的人,操著蹩腳的“俄式中文”,時(shí)而唱歌,時(shí)而做“科普”,在抖音上積累下近200萬粉絲。
由于其臉孔怪異,有用戶不禁在評(píng)論區(qū)質(zhì)疑此人性別、國籍的真實(shí)性,但更多人是在“追捧”。4月1日晚,抖音官方發(fā)布《關(guān)于打擊仿冒帳號(hào)等黑產(chǎn)行為的處理公告》,指出包括@俄羅斯娜娜 在內(nèi)的4個(gè)賬號(hào)存在濫用平臺(tái)道具、仿冒虛假人設(shè)的情況,將對(duì)其進(jìn)行無限期封禁的處罰。
對(duì)于公告中所說的“濫用平臺(tái)道具”,有人認(rèn)為是“AI換臉”,即通過人工智能技術(shù)將別人的臉替換到自己身上。也有人指出,這可能是抖音自帶的某種可以將人的五官特征、輪廓改為外國人的特效——且該特效的使用基本是0門檻,使用目的也缺乏規(guī)則和監(jiān)管。
而這種通過技術(shù)手段造假“人臉”,造假“身份”,蹭網(wǎng)絡(luò)熱度的情況,全世界其實(shí)都屢見不鮮。上個(gè)月,還有人通過類似技術(shù)使得烏克蘭總統(tǒng)澤連斯基發(fā)布“投降宣言”、俄羅斯總統(tǒng)普京發(fā)表“和平宣言”……
“通過技術(shù)手段換臉”,這個(gè)以前聽來天方夜譚的技術(shù),如今已經(jīng)變得常見。
最近熱播的刑偵局《獵罪圖鑒》中,男主的恩師就因接到兒子借錢的求助視頻,把自己的養(yǎng)老積蓄全都轉(zhuǎn)了過去。在發(fā)現(xiàn)自己被騙后,老兩口選擇投海自殺。
隨后,男主在和恩師兒子的溝通中發(fā)現(xiàn),這則視頻的說話方式、臉部肌肉趨勢都與本人有所不同,連光線都是偽造的。
原來,這又是一起用以詐騙的“AI換臉”視頻,背后則是一個(gè)長期通過類似技術(shù)手段騙取老人錢財(cái)?shù)姆缸飯F(tuán)伙。
現(xiàn)在,劇情走進(jìn)了現(xiàn)實(shí)。
前段時(shí)間,抖音上出現(xiàn)一個(gè)叫做@俄羅斯娜娜 的賬號(hào)。該賬號(hào)的視頻中,出現(xiàn)了一個(gè)自稱來自俄羅斯,名為娜娜的“女人”,其擁有棕色的長發(fā)、藍(lán)綠色的眼睛和一口“烈焰紅唇”。
視頻中,她動(dòng)不動(dòng)就操著蹩腳的外國腔調(diào)說“中國的兄弟姐妹你們好”,講解一些道聽途說的“俄羅斯常識(shí)”,要么就為觀眾“高歌一曲”,且是假唱……
由于抖音上的@俄羅斯娜娜 已經(jīng)被封,用戶們的發(fā)言也難以找到。但在b站上,還留存著她的歌聲,和滿屏真情實(shí)感的“好好聽”彈幕。
評(píng)論區(qū)曾有用戶質(zhì)疑,“娜娜”畫面怪異,五官模糊,可能是AI換臉,趁著最近俄羅斯熱度高在“蹭流量”。也有人表示,抖音有一些如下圖所示的“外國人”特效或者濾鏡,“俄羅斯娜娜”可能也是通過這些特效改變了五官特征,偽裝成外國人。但在大量的稱贊里,這些質(zhì)疑聲基本很快就被淹沒了……
此類特效的使用基本是0門檻,使用目的也缺乏規(guī)則和監(jiān)管。有用戶向觀察者網(wǎng)提供了類似的視頻——使用者是100%的中國人,但換上特效后,臉部特征便朝外國人轉(zhuǎn)變。且操作之簡單,僅僅點(diǎn)擊、下載特效、拍攝、上傳,即可在互聯(lián)網(wǎng)上變?yōu)?ldquo;外國人”。
靠著這些手段,“俄羅斯娜娜”在抖音上積攢了近200萬粉絲,在b站上也存在瀏覽量破5萬的視頻。
4月1日晚,抖音官方發(fā)布《關(guān)于打擊仿冒帳號(hào)等黑產(chǎn)行為的處理公告》稱,日前在日常巡查時(shí)發(fā)現(xiàn),個(gè)別用戶存在濫用平臺(tái)道具,仿冒虛假人設(shè),不當(dāng)獲取流量及粉絲的違規(guī)現(xiàn)象。
抖音表示,仿冒賬號(hào)是黑產(chǎn)團(tuán)伙常用的作弊手段,行為違反了抖音平臺(tái)相關(guān)公約,進(jìn)行詐騙更是涉嫌觸犯國家相關(guān)法律法規(guī)。抖音堅(jiān)決打擊各類黑產(chǎn)行為。
為此,抖音安全中心對(duì)包括“俄***娜”、“俄****莎”、“羅****娜”、“***娜娜”在內(nèi)的 4 個(gè)帳號(hào)予以無限期封禁的處罰。
目前,尚無官方消息確認(rèn)“俄羅斯娜娜”的真實(shí)身份。
這種“改臉/換臉技術(shù)”對(duì)于年輕人來說,可能還有辨別的可能;但對(duì)于一些中老年人而言,或許真的很難識(shí)破。這也造成了本文開頭,老年人被騙盡養(yǎng)老錢的悲慘劇情。
目前,通過技術(shù)手段造假“人臉”,造假“身份”的情況,已經(jīng)出現(xiàn)在了世界各地。像“俄羅斯娜娜”這種造個(gè)假人設(shè)、騙點(diǎn)關(guān)注和廣告的還算“收斂”。更有甚者,直接偽造政界名流,致力于偽造出假的“大新聞”。
據(jù)英國廣播公司(BBC)3月18日?qǐng)?bào)道,俄烏沖突期間,網(wǎng)上出現(xiàn)了不少“假總統(tǒng)”。先是烏克蘭總統(tǒng)澤連斯基在一段視頻中發(fā)表了號(hào)召烏克蘭“投降”的講話……
而后,又出現(xiàn)一段普京宣布和平的視頻……這兩段視頻隨后被證實(shí)都是用“AI換臉”偽造的。
根據(jù)彭博社發(fā)布的一段視頻,早在三年前,這項(xiàng)技術(shù)就已經(jīng)發(fā)展到可以把一個(gè)人的表情、口型完全復(fù)刻到另一個(gè)人臉上。
技術(shù)無罪,有時(shí)甚至只是出于毫無惡意的“好玩”。
但當(dāng)它被“娜娜”們掌握時(shí),如何管理和使用,則將成為“AI”即將到來的時(shí)代里,一個(gè)經(jīng)久不衰的話題。
投稿郵箱:chuanbeiol@163.com 詳情請(qǐng)?jiān)L問川北在線:http://dstuf.com/