AI換臉App一夜爆火？

國外早已打開了“潘多拉魔盒”

一夜之間，AI換臉App「Zao」爆紅，迅速刷屏朋友圈，爭議之大，一時激起千層浪。聯(lián)想到今年上半年上過熱搜的“楊冪換臉朱茵版黃蓉”、“徐錦江換臉海王”等AI換臉視頻，許多人對這項技術也充滿了好奇。

實際上，AI換臉技術誕生已久，在國外被稱為“deepfake”，也一直是輿論討伐的漩渦中心話題。

兩周前在YouTube上，一個叫「Ctrl Shift Face」的頻道發(fā)布了喜劇演員Bill Hader換臉湯姆·克魯斯的視頻，播放量近500萬。觀眾認為這是目前精細度最高的換臉視頻之一，deepfake技術又有新進步。

「Ctrl Shift Face」已經(jīng)制作并發(fā)布了約20個deepfake視頻，大部分為明星換臉。YouTuber本人也在采訪中表示自己的主要目的是娛樂，并不是想要誤導或傷害別人。

類似于「Ctrl Shift Face」的頻道和deepfake類視頻在YouTube上十分常見，多數(shù)是用來惡搞政壇人物或話題人物，比如程序員換臉奧巴馬。今年6月，扎克伯格被AI換臉技術放進一段質(zhì)疑Facebook用戶隱私的視頻中。

娛樂之外，deepfake技術引發(fā)了眾多社會擔憂，是否有人會借此偽造公眾人物視頻發(fā)表煽動性言論？是否會有人利用該技術進行犯罪？法庭上的視頻證據(jù)是否還有可信度？

而最令人憤怒的是，利用deepfake技術進行色情傳播已經(jīng)成為現(xiàn)實，甚至發(fā)展成為一門生意。安妮·海瑟薇、加爾·蓋朵、泰勒·斯威夫特等女星都曾被換臉到色情片中，視頻被不斷傳播和售賣。

有專家警告稱，未來用deepfake制作色情片，可能會像使用Instagram濾鏡一樣簡單。

針對deepfake技術的蔓延和傳播，已經(jīng)引起大量的關注和重視。Facebook、YouTube和Twitter等幾大平臺目前還未出臺明確可以對抗deepfake技術的措施，但一些研究人員已經(jīng)發(fā)現(xiàn)可以識別deepfake視頻的技巧。

一是deepfake視頻中人物不會眨眼或者眨眼不自然。deepfake雖然是利用神經(jīng)網(wǎng)絡將目標人物的臉部覆蓋到視頻中人物上，但對人臉物理或自然特征未完全掌握，所以會產(chǎn)生不眨眼或是眨眼不自然現(xiàn)象。