連色情網站都不敢碰的AI禁區，ZAO正在瘋狂試探
2019-9-6 09:52
來源：
qidianplus2
你ZAO嗎？
一夜“成”明星不再是夢。
從上周末開始，一個名為“ZAO”的AI換臉App忽然火爆全網，用這款App制作的換臉視頻在微博、朋友圈隨處可見。
只要一張照片，想附體誰就附體誰！▼
ZAO在第一個公開版本發布不到24個小時里迅速躥紅，不僅在社交媒體上刷屏，更登上蘋果iOS免費榜第二，微博熱搜話題榜前十，堪稱“現象級”。
而這個刷屏的背后，其實與我們每一個人的生活都息息相關。
ZAO最大的噱頭是和明星“換臉”，并且嵌入短視頻中，可下載后傳播，用于社交娛樂。
而“ZAO”是由著名線上交友軟件“陌陌”團隊打造，兩位實際控股股東都是陌陌公司的高管。
值得一提的是，ZAO的開發商顯示為“長沙深度融合網絡科技有限公司”，而陌陌創始人兼CEO唐巖本人就是湖南人。
不過，其實AI換臉視頻并不是新鮮事了。
換臉技術七八年前就有了，比如電影《速度與激情7》里，保羅沃克就是用AI技術合成的，花費了千萬美金。
但民間的換臉軟件，因為逼真程度較差，反響一般。直到2017年12月，一名ID為Deepfakes的碼農大牛，在Reddit網站上上傳了一段“名人AV”視頻。
當時，“deepfakes”把情色電影里的女主角換成了蓋爾·加朵等好萊塢明星，這也是世界上所有人們第一次公開見識到AI換臉的強大。
而他隨后也制作了一系列“明星AV”合成視頻。
但是很快就出現了問題。
比如DeepFakes把希拉里和特朗普做成夫妻的，把他倆臉做在一起的，把他倆做到色情片里的，玩法多種多樣。
人們的智慧是無限的，只要有工具出來，就一定會給玩出花樣來，而且早期的花樣一定不夠高尚而且低俗色情的。
由于尺度過大，Reddit論壇迫于壓力封殺了“deepfakes”的賬號，不過這次封殺卻讓“deepfakes”直接開源了其AI換臉項目的代碼——完全免費公開。
在代碼開源后，AI換臉技術已經有如普羅米修斯盜來的火種，一瞬間撒遍了世界各地。
一下子人人都成了AI換臉專家。
▲景甜換臉AV
只要稍微懂一點技術的人，都可以使用他們的技術來套層殼來玩兒，ZAO也是諸多衍生APP之一。
ZAO運用的是Deepfake技術，但是Deepfake的相關App在國外因為道德、倫理和隱私問題已經被禁用；
但在我們國內，在這個色情網站都不敢觸碰的AI禁區，ZAO卻可以大張旗鼓的商業應用。
不知道玩ZAO的用戶知不知道，在你玩這款APP的時候，自己臉部數據已經上傳到企業服務器，可以賣錢的。
因此，這款APP看似有一張有趣的皮囊，但其靈魂并不好看。
我們平時并不會多看上一眼的用戶協議中的隱藏著巨大貓膩，以及讓人無法接受的法律風險。
為什么我會這么說，首先我們先來看看ZAO的用戶協議。
用戶協議第6條第1款是這樣規定的：
這密密麻麻一大段話是什么意思呢？
意思是，當你選擇使用這個app以后，根據協議內容，該app除了可免費使用并修改你的肖像，還可以將它任意授權給自己想授權的第三方，當做信息進行販賣。
所以當有一天，你在ZAO或者其它關聯平臺上發現你的臉被隨意變換、不再屬于自己的時候，你想起訴ZAO，不好意思，它會拿出這個協議來堵你的嘴，告訴你你自己早已同意。
其次，我們再來看看關于侵權的規定。第6條第2款明確規定：
這又是什么意思呢？
比如現在你將楊冪的臉換成自己的臉，你除了要保證自己永久、不可撤銷地把自己的肖像免費給ZAO使用，還要保證楊冪同意ZAO及關聯公司使用她的肖像...
但是問題來了，你又不認識楊冪，你怎么能確保？這不是在搞笑嗎？
而它這么寫，說白了，就是因為自己沒錢拿到明星們的授權，為了日后侵權的問題，它通過這個協議，可以將鍋甩給你們。
而在此情形下，協議第七條第7款規定：
這條意思就是延續上一條，如果楊冪狀告ZAO，主張自己的肖像權被ZAO平臺濫用，那ZAO完全可能說這不怪我，技術無罪，要怪就怪這些換你臉的用戶，并且，即使ZAO承擔了平臺責任，其也完全可以起訴具體用戶進行追償。
對于這樣的用戶協議，我只能說吃相未免太難看了點，他們把自己的屁股擦得非常干凈，將侵權的苦果全部甩給了用戶。
所以，現在你們明白了嗎？
你今天在網上換臉，覺得很開心，其實你在無形中，已經成了一名你最不齒的侵權人。
更慘的是，你的臉，也不再只屬于你自己，它也歸ZAO，及它想授權的所有人。
更感到后怕的是，截至我發這篇文章，已經不知有多少用戶同意了這份吃相難看的協議，喪失了自己的肖像自主權。
而我選擇將用戶協議分析給你們，也只是希望你們能將這篇文章轉發給所有對這個app感興趣的人。
因為他們很有可能在不明所以的情況下，就對app進行了使用，同意了協議。
你可能以為只是在用戶協議那點了個小小的勾，但你在點確定的一剎那，你已經無形之中喪失了很多本屬于你自己的東西。
而這些東西，其實是你無比珍視的“臉面”。
除了利用協議進行漂亮的肖像權風險的轉嫁外，還有一個值得我們探討的就是——
技術真的是無罪的，中立的嗎？
似乎是，至少很多技術的開發者自己是這么認為的。
快播的王欣在法庭上那句“技術是無罪的”言猶在耳，谷歌的態度更具代表性和普遍性：重視道德責任，但如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
而DeepFakes的開源，更是打開了“人臉識別技術”的潘多拉魔盒。
這種無縫替換人臉的技術，在黑產可以玩出無數的花樣。
例如詐騙，使用這項技術無縫把老人子女的臉融入視頻中，不管是生病要錢，還是綁架，還是轉賬，都很容易騙到老人。
例如敲詐，使用這項技術把受害人臉加到一些黃色視頻中，然后威脅不給錢就群發散布，實際上很多高利貸的催收就喜歡這么玩，只不過過去的P圖不夠震撼。
在這種情形下，如果研發人員說，他們不對技術的倫理負責，只想賺錢；如果使用者說，他們不想檢討技術的陰暗影響，只為好玩。
那么我們指望誰來促成技術、法規和使用需求的良性耦合呢？
2019年6月13日，美國眾議院情報委員會召開關于人工智能深度偽造的聽證會，公開談論了深度偽造技術對國家、社會和個人的風險及防范和應對措施。
這是美國眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術的聽證會。
而未來，AI深度偽造會發展成什么樣，給我們的生活造成什么影響，AI究竟是普羅米修斯的火種還是潘多拉的魔盒。
我們目前不得而知。
百度李彥宏曾經“大無畏”地說了實話——中國的互聯網用戶們“愿用隱私換方便”，而被口誅筆伐。
但是現在想想又何嘗不是呢？
我們一邊吐槽條款，一邊抱著“反正這么多人用，暴露隱私也輪不到我”的心態，享受著軟件帶來的朋友圈流量、點贊、虛榮。
我們正在漸漸的，忍受著各種APP竊取我們的短信、通訊錄、照片，甚至是我們的位置。
我們允許它們偷聽我們的談話，偷偷的打開我們的攝像頭，看看我們是否裸睡或者甜言蜜語。
我們更允許這款ZAO，要了我們的“臉面”，然后，滿足我們意淫的快感，和所謂的“李現”進行虛擬對戲。
然后，在圖了各種便利和爽快后，我們的“臉面”也被廉價的搜集了。我們在悄然不斷的把我們所有的隱私都泄漏了。
你的一次次放縱和貪圖方便，已經把你自己的“臉面”、“指紋”、“聲波”、“心率”、“視網膜”、“基因”等等，都被廉價的販賣給了大數據。
然后大數據比你自己還懂你。
它引導你每次沖動的消費行為。
它控制你每次興高采烈的點擊購買。
它驅使你悄悄的販賣自己一切可以販賣的東西。
《天龍八部》里的掃地僧說，少林七十二絕技每練一技都需要相應的佛法才能化解，而要把七十二絕技學成于一身需要極高深的心法修為，蕭峰和慕容復的老爸都因為偷學絕技但心法沒跟上而深受其害。
技術發展日新月異，對人性的反噬潛移默化，人的修為跟得上AI嗎？
昨天還是一鍵美顏，今天就能一鍵換臉，明天會不會一鍵生成個人虛擬形象？
現在，我們要為分辨色情視頻中的明星的臉是不是合成的。
未來某刻，我們可能就得分辨眼前的人究竟是不是自己，究竟是不是親人，而不是一個虛擬的合成。
看著朋友圈那一張張被換掉的臉，浮現出福柯在《詞與物》結尾的話，“人將被抹去，如同海邊沙灘上一張臉的形象那樣被抹去。”
在未來的AI年代，我們每個人最大的問題或許會是——
你是誰？
我又是誰？
版權申明：本內容來自于互聯網，屬第三方匯集推薦平臺。本文的版權歸原作者所有，文章言論不代表鏈門戶的觀點，鏈門戶不承擔任何法律責任。如有侵權請聯系QQ：3341927519進行反饋。
