如果你聽說過深度偽造（deepfakes），即人們做著從未做過的事或者說著從未說過的話的高度逼真視頻，你可能會(huì)認(rèn)為這是一種可疑的技術(shù)發(fā)展成果。例如，它們可能被用于高級(jí)網(wǎng)絡(luò)釣魚詐騙中來冒充企業(yè)高管，在這類詐騙中，虛假語音郵件被用來向員工索要緊急資金。深度偽造技術(shù)逐漸進(jìn)入我們的生活，在帶來驚喜和便利的同時(shí)，也暴露出一系列風(fēng)險(xiǎn)隱患，飽受爭(zhēng)議。

它們的存在引發(fā)了大量識(shí)別它們的方法的研究。

但深度偽造并非一無是處。事實(shí)上，它們可以被用于有益的用途。

它們可以讓跨國(guó)企業(yè)的高管用員工的母語傳達(dá)信息，實(shí)時(shí)翻譯演講內(nèi)容并且口型與所說的話相匹配。它們被用于創(chuàng)建逼真的模擬場(chǎng)景以促進(jìn)員工發(fā)展，或者讓歷史人物重現(xiàn)生機(jī)，從而讓學(xué)校里的復(fù)雜話題更通俗易懂。

為何研究人員需要“有益的”深度偽造技術(shù)

醫(yī)學(xué)領(lǐng)域是有益的深度偽造技術(shù)的最大使用者之一。這些深度偽造技術(shù)通常被用于為機(jī)器學(xué)習(xí)程序創(chuàng)建額外的訓(xùn)練數(shù)據(jù)。例如，當(dāng)研究人員訓(xùn)練人工智能（AI）在諸如磁共振成像（MRI）或X射線等醫(yī)學(xué)影像中檢測(cè)某些類型的癌癥時(shí)，他們可能會(huì)使用深度偽造技術(shù)來為其數(shù)據(jù)集添加更多影像。

這是必要的，因?yàn)樵S多數(shù)據(jù)集規(guī)模較小或者不完整。訓(xùn)練人工智能模型需要對(duì)細(xì)節(jié)一絲不茍，需要大量的人工干預(yù)來標(biāo)記數(shù)據(jù)集的某些特征。有時(shí)，掃描結(jié)果標(biāo)記不正確或者標(biāo)記不一致，因?yàn)椴煌娜耸褂昧瞬煌臉?biāo)準(zhǔn)。這些問題可能會(huì)使人工智能模型更難以準(zhǔn)確學(xué)習(xí)。生成合成數(shù)據(jù)有助于克服這些挑戰(zhàn)，不過合成數(shù)據(jù)的質(zhì)量也必須得到仔細(xì)監(jiān)控。

制作深度偽造（作品）變得更容易了

IEEE高級(jí)會(huì)員Vivekanandhan Muthulingam表示：“雖然多年來制作深度偽造（作品）的技術(shù)變得更容易獲取了，但這仍然需要一定水平的專業(yè)知識(shí)?！?/p>

Muthulingam說：“現(xiàn)在有一些用戶友好型的工具和應(yīng)用程序可供使用，這些工具和應(yīng)用程序讓個(gè)人在沒有廣泛編程知識(shí)的情況下就可以嘗試制作深度偽造（作品）。然而，要獲得高質(zhì)量的成果仍然需要對(duì)機(jī)器學(xué)習(xí)原理和視頻編輯有更深入的理解?！?/p>

制作這些深度偽造（作品）的人也需要了解相關(guān)的主題內(nèi)容。

IEEE會(huì)士Houbing Song說：“要制作‘有益的’深度偽造（作品），既需要人工智能知識(shí)，也需要專業(yè)領(lǐng)域知識(shí)?！?/p>

倫理考量

專家警告說，僅僅因?yàn)樯疃葌卧焓浅鲇谏埔饽康亩鴦?chuàng)建的，并不能免除倫理責(zé)任。負(fù)責(zé)任地使用它們意味著要誠(chéng)實(shí)，并設(shè)置保護(hù)措施以支持學(xué)習(xí)和創(chuàng)新，同時(shí)又不危及信任或安全。在訓(xùn)練數(shù)據(jù)方面可能也存在倫理考量，這些數(shù)據(jù)可能涉及版權(quán)或知識(shí)產(chǎn)權(quán)主張，或者是因?yàn)閾?dān)心將患者信息用于訓(xùn)練數(shù)據(jù)。

也可能存在一些灰色地帶，在這些地帶深度偽造的價(jià)值并非一目了然。

Song說：“一個(gè)深度偽造作品是好是壞將取決于其益處與社會(huì)期望的契合程度。從長(zhǎng)遠(yuǎn)來看，如果我們善用深度偽造技術(shù)，那么該技術(shù)的益處將超過風(fēng)險(xiǎn)?！?/p>

了解更多：要深入了解研究人員如何使用機(jī)器學(xué)習(xí)在醫(yī)學(xué)圖像中創(chuàng)建合成數(shù)據(jù)，請(qǐng)查看IEEE的這篇文章：https://ieeexplore.ieee.org/document/10445413。

zhupb