近十年的電影技術(shù)，已經(jīng)能夠做到視頻換臉。通過面部表情捕捉等技術(shù)，電影公司可以讓演員飾演動物或者怪物，讓他們返老還童或者從少變老甚至死而復(fù)生，如1994年的《阿甘正傳》就采用數(shù)字方式，將肯尼迪的影像填充到電影中，并調(diào)節(jié)他的表情和肢體語言；《速度與激情7》中，演員保倫·沃克在電影拍攝完成前因車禍喪生，但依靠換臉技術(shù)，他依然生動地出現(xiàn)在熒幕上。
不過，電影應(yīng)用的這一套技術(shù)跟ai換臉存在很大區(qū)別，前者效果好、工藝流程更復(fù)雜、成本頗高，后者雖然效果不可同日而語，但成本低得離譜，入門級的ai換臉軟件在網(wǎng)上被免費(fèi)傳播，被眾多網(wǎng)友玩得不亦樂乎的“deepfakes”就是其中之一。
因?yàn)殚_源的ai換臉軟件人人取之可用，全民換臉的惡搞狂歡接踵而至，帶來的“蝴蝶效應(yīng)”令人始料未及。在美國，reddit、twitter、pornhub等網(wǎng)站先后淪陷，中國的b站、貼吧也被報道過換臉視頻充斥，澳大利亞、印度等國也有公民飽受ai換臉的困擾。
正如美國演員喬丹·皮爾所說，公眾需要可信的新聞來源，要對互聯(lián)網(wǎng)更加警惕，信息時代將決定我們是生存，還是成為某種糟糕的反烏托邦。一些社交媒體*的世界，人們難以分辨新聞的真假。隨著換臉技術(shù)被用于跨越倫理道德、法律規(guī)則、網(wǎng)絡(luò)安全紅線的個人娛樂、商業(yè)行為、學(xué)術(shù)研究等方向，ai換臉引發(fā)了學(xué)界的密集譴責(zé)和公眾的持續(xù)討論，并對可能造成的威脅表示擔(dān)憂和批評，呼吁政府加強(qiáng)監(jiān)管，避免該項技術(shù)的濫用。況且，ai換臉技術(shù)日益精進(jìn)暗含隱憂：英偉達(dá)“ai假臉王”stylegan攻破幾乎所有人臉識別系；samsung 開發(fā)的演算法只需一張相片即可制作合成影片……因此，政府出手加以限制勢在必行。
當(dāng)前，諸多已從法律角度對ai換臉進(jìn)行限制：
澳大利亞首都堪培拉、新南威爾士州、維多利亞州、南澳大利亞州、西澳大利亞州等地區(qū)頒發(fā)法律，將未經(jīng)他人同意的情況下，制作、傳播虛假圖像視為犯罪，可判處監(jiān)禁或罰款。其中，堪培拉、新南威爾士州和南澳大利亞州明確定義了具有“親密性”和“侵入性”的圖像類型，包括已被改變或操縱的圖像。
美國國防研究計劃局(darpa)設(shè)立“媒體鑒證”項目，以開發(fā)能識別深度偽造視頻的工具。據(jù)悉，該項目初旨在實(shí)現(xiàn)現(xiàn)有鑒證工具的自動化，之后將重點(diǎn)轉(zhuǎn)向人工智能生成的虛假視頻。研究人員已在gan操縱的圖像和視頻中發(fā)現(xiàn)了微妙的線索，從而使其能夠檢測到變化的存在。紐約議會出于保護(hù)個人隱私權(quán)和宣傳權(quán)，提交了編號為a08155的法案，明確提出禁止用ai技術(shù)制作虛假視頻，在法律邊緣徘徊的deepfakes*。
我國*常委會審議的民法典人格權(quán)編草案里也新增規(guī)定，任何組織或者個人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)，明確指出未經(jīng)肖像權(quán)人同意，使用ps和ai換臉不僅侵害自然人的人格權(quán)益，還可能造成惡劣的社會影響，甚至危害安全和社會公共利益。
結(jié)語：大規(guī)模低門檻的“深度偽造”在國內(nèi)外都引起過軒然大波，新規(guī)定是立法部門對社會新技術(shù)發(fā)展所帶來挑戰(zhàn)的回應(yīng)，公眾應(yīng)嚴(yán)格遵守。善意玩?？梢裕珣?yīng)把握好度，以免ai換臉一時爽，鐵窗含淚望故鄉(xiāng)。
(原標(biāo)題：ai換臉成達(dá)摩克利斯之劍？多國已加強(qiáng)監(jiān)管)