“深度合成”技術日趨成熟，在多個領域實現(xiàn)落地應用
人臉合成、語音合成、視頻生成和數(shù)字虛擬人等概念近兩年非常火爆，而這背后依靠的便是 “深度合成”技術?！吧疃群铣墒且环NAI合成內容的技術，依賴于人工智能技術，是人工智能發(fā)展到一定階段的產(chǎn)物。我們認為深度合成類的AI技術應用之所以能夠近兩年興起，很大程度上得益于生成對抗網(wǎng)絡算法的出現(xiàn)，這種算法可以用于生產(chǎn)高度逼真的合成的數(shù)據(jù)。”在研討會上，張欽坤對該技術的發(fā)展進行了闡述。
在李季檁看來，目前“深度合成”已經(jīng)具備了以下幾個優(yōu)勢：第一，合成工具的進化，以往需要大量高級工具的復雜操作，現(xiàn)在只需一鍵式的端到端合成即可。第二，合成的效果越來越難分辨真假。第三，可實現(xiàn)此前無法做到的合成，比如將頭腦中的想象落實到實際操作上，將真實人物與游戲角色等虛擬人物相結合等。
在行業(yè)應用方面，郭成杰認為，目前深度合成重點還是在臉部，未來可能會從單純的臉部發(fā)展到全身、動作深度的合成。此外，視覺、語音的深度合成，與語音的交互技術未來也會有比較深度的結合。
“深度合成已經(jīng)從傳統(tǒng)的Deepfake發(fā)展到了更多元化的應用，無論是社交、藝術、醫(yī)療、科研等都會有深度合成技術的應用場景?！睆垰J坤稱。
深度合成目前主要有三大應用領域：第一，娛樂和數(shù)字內容。比如游戲體驗方面，騰訊旗下網(wǎng)絡游戲“和平精英”，就引入了深度合成應用，玩家可化身游戲中的“和平精英”與火箭少女101同框合影，背后所依托的正是騰訊優(yōu)圖實驗室的人像融合技術。這一技術還能用于H5等活動營銷傳播、游戲影視制作、以及各類相機App等。第二，數(shù)字人領域，比如虛擬主播、虛擬歌手、虛擬助手等。第三，對于教育、醫(yī)療健康等社會性問題，“深度合成”技術可以發(fā)揮出“科技向善”的力量。
“深度合成”迎商業(yè)化應用元年，法律監(jiān)管問題不容小覷
隨著社會對深度合成技術及相關應用的認識逐漸趨于理性，騰訊研究院和騰訊優(yōu)圖實驗室此前發(fā)布的報告《AI生成內容發(fā)展報告2020——“深度合成”商業(yè)化元年》提出，2020年有望成為深度合成技術走向大規(guī)模商業(yè)化應用的元年。
目前，大眾對深度合成應用接觸更多的是換臉App。“未來對于換臉App，我們也期待它跟更多的落地化的商業(yè)應用做一些結合，能夠去產(chǎn)生一些更有持續(xù)性的發(fā)展。”郭成杰稱，虛擬人在商業(yè)化方面也有非常大的延展性，未來在教育、旅游，包括公共場所的咨詢，我們需要一些比較多的重復性的人力接待、播報或者講解的地方，都可以用虛擬人做一些應用?！拔磥黼S著深度合成技術的進一步發(fā)展，我們在整個行業(yè)里面去結合現(xiàn)有的商業(yè)模式和服務模式，尤其像服務體驗這方面可能都會幫助大家有所提升。”
新技術帶來變革的同時也會帶來一定的風險和挑戰(zhàn)，Deepfake這個概念之所以剛開始名噪一時，也是因為很多人通過深度合成的技術偽造了很多虛假的、真假難辯的圖片、音視頻等來進行一些非法活動。因此，深度合成技術的治理問題也成為業(yè)界關注的焦點。
從技術方面，張欽坤分享了國外對“深度合成”技術進行包容審慎監(jiān)管的五點措施：一是不得誤導公眾，需要披露人工智能的身份；二是劃定紅線，某些領域是深度合成技術不能應用的；三是內容制作者要承擔披露的義務；四是呼吁技術公司能夠研發(fā)檢測識別深度合成內容的反制技術；五是要求深度合成的開發(fā)者必須要遵守隱私和個人信息保護的相關要求。他同時指出，需要依靠法律、技術、行業(yè)自律、公眾教育等多層次治理體系，來促進技術的妥善應用和良性發(fā)展。
據(jù)悉，騰訊優(yōu)圖實驗室自2013年做刷臉技術研發(fā)起，便開始通過活體檢測技術以保證人臉安全。經(jīng)過多年的努力，騰訊優(yōu)圖實驗室在人臉安全領域已完成三方面布局：一是對真人和特定介質載體展現(xiàn)出來的人臉進行區(qū)分；二是既做內容的生成也做內容的防御；三是對于新出現(xiàn)的對抗噪音問題，比如臉上戴了一個特定的眼鏡片就將某人識別成其他人，騰訊優(yōu)圖已經(jīng)在深度模型底層的機制上去研究對抗的方法,防止一些安全風險的出現(xiàn)。
目前，在內部的一些評測中，如果已知是哪種深度合成的方法，優(yōu)圖檢測模型的檢測率已經(jīng)可以達到99%。同時，在Facebook舉辦的Deepfake Detection Challenge (DFDC)比賽當中，騰訊優(yōu)圖在2000多支隊伍中進入前十，并拿到金牌。
在法律方面，張吉豫認為深度合成作為一種新的技術、新的應用、新的業(yè)態(tài)，對于它的監(jiān)管，整體需要遵循包容審慎監(jiān)管的原則?！皩徤饔袃煞矫娴暮x：第一，技術剛出來的時候，需要給一個觀察期；第二，要嚴守安全底線，對一些謀財害命、侵權行為不管是傳統(tǒng)業(yè)態(tài)還是新業(yè)態(tài)都要采取嚴厲的措施予以打擊。”
從社會治理角度，陳昌鳳認為可以通過網(wǎng)絡治理，所謂多利益相關方聯(lián)合治理的這個模式來入手，多利益相關方的治理一定是包括平臺的治理，平臺要用技術來治理，所以平臺的技術治理也是一個重要的方面。
面對新技術的挑戰(zhàn)，政府和監(jiān)管者應當包容審慎，避免阻礙深度合成技術的有益的、創(chuàng)新性的應用，通過法律、技術、行業(yè)、用戶的多重治理將其納入可控的發(fā)展軌道。
正如徐峰所言，對于人工智能的治理，首先要在尊重和更好認識人工智能自身發(fā)展規(guī)律基礎上有一個系統(tǒng)的考慮，既需要像新一代人工智能治理原則這樣的框架性和理念性的指南，也需要針對具體技術、具體應用、具體領域針對性的治理措施。在發(fā)展技術的同時，也要加強相關潛在風險的研判，做好政策儲備和應對策略，防患于未然。
