網(wǎng)絡(luò)犯罪分子正在使用更為先進(jìn)的技術(shù)手段，如網(wǎng)絡(luò)釣魚、勒索軟件和社會(huì)工程等，這使得數(shù)據(jù)泄露事件頻發(fā)。Jumio亞太區(qū)總監(jiān)丁娜娜提到：“僅在2024年第二季度，暗網(wǎng)上提供新加坡人身份數(shù)據(jù)的賣家數(shù)量就比去年同期增長了230%?！?/p>

Jumio發(fā)布的2024在線身份研究報(bào)告顯示，消費(fèi)者對于生成式AI和深度偽造相關(guān)風(fēng)險(xiǎn)表現(xiàn)出極大的擔(dān)憂。調(diào)查結(jié)果顯示，近四分之三的消費(fèi)者（72%）每天都擔(dān)心被深度偽造欺騙，從而泄露敏感信息或被騙金錢。特別是在金融行業(yè)中，高達(dá)67%的消費(fèi)者懷疑他們的銀行是否有能力打擊深度偽造欺詐行為。

生成式AI與深度偽造的影響

生成式AI技術(shù)的快速發(fā)展不僅極大地提高了工作效率，也為欺詐和虛假信息的傳播創(chuàng)造了新的可能性。例如，利用生成式AI工具，欺詐者可以輕松地撰寫出精準(zhǔn)專業(yè)的電子郵件，這增加了辨別真?zhèn)蔚碾y度。

丁娜娜指出：“機(jī)器人現(xiàn)在能夠在社交媒體上開設(shè)賬戶，并使用生成式AI撰寫看似有靠譜來源的帖子，用戶將很難區(qū)分真實(shí)信息和虛假信息?！?/p>

隨著AI技術(shù)的進(jìn)步，遠(yuǎn)程建立數(shù)字身份的信任變得越來越具有挑戰(zhàn)性。深度偽造技術(shù)可以創(chuàng)造出非常逼真但完全虛構(gòu)的視頻或圖像，進(jìn)一步加劇了這個(gè)問題。

近期的一個(gè)案例是在新加坡，一名社交平臺(tái)用戶收到了一張看似是他本人的不雅照片，并遭到勒索，但實(shí)際上這張照片是通過深度偽造技術(shù)制作的。

除了面向消費(fèi)者，金融行業(yè)也面臨諸多風(fēng)險(xiǎn)，新技術(shù)也同時(shí)催生了更多更難以識(shí)別、追蹤和打擊的金融欺詐案。真實(shí)案例顯示，有黑客正在利用竊取的面部識(shí)別數(shù)據(jù)瞄準(zhǔn)亞洲銀行賬戶。

在泰國，黑客假扮政府機(jī)構(gòu)人員，用戶被提示下載一個(gè) “數(shù)字養(yǎng)老金 ”應(yīng)用程序，為了設(shè)置這樣的應(yīng)用程序，受害者會(huì)被要求錄制一段用于面部識(shí)別的視頻，黑客之后會(huì)將其作為原材料制作深偽視頻實(shí)施詐騙。已知一名越南公民在一個(gè)類似的騙局中損失了4萬美元。

由此可以看到，數(shù)字世界中的每個(gè)人，無論是企業(yè)還是個(gè)人，面對網(wǎng)絡(luò)欺詐基本上無國界之分，都必須掌握應(yīng)對網(wǎng)絡(luò)攻擊的知識(shí)和技能。對于AI技術(shù)帶來的新威脅，企業(yè)必須對可能危及其運(yùn)營、安全和聲譽(yù)的各種風(fēng)險(xiǎn)保持高度警惕。企業(yè)也因此需要部署實(shí)施強(qiáng)大的技術(shù)方案，針對這些威脅建立更強(qiáng)大的防御機(jī)制，并最終領(lǐng)先網(wǎng)絡(luò)犯罪分子一步。

Jumio如何應(yīng)對生成式AI帶來的信任危機(jī)

盡管利用深度神經(jīng)網(wǎng)絡(luò)、反深偽檢測等技術(shù)能夠?qū)π滦推墼p行為進(jìn)行有效抵御，但由于黑客技術(shù)也在快速迭代，使得這種對抗變成了一個(gè)長期的“貓鼠游戲”，此時(shí)，在數(shù)字經(jīng)濟(jì)時(shí)代建立一種成熟的信任機(jī)制就變得非常關(guān)鍵。

對于AI技術(shù)帶來的新威脅，企業(yè)必須對可能危及其運(yùn)營、安全和聲譽(yù)的各種風(fēng)險(xiǎn)保持高度警惕。企業(yè)也因此需要部署實(shí)施強(qiáng)大的技術(shù)方案，針對這些威脅建立更強(qiáng)大的防御機(jī)制，并最終領(lǐng)先網(wǎng)絡(luò)犯罪分子一步。

面對生成式AI帶來的欺詐風(fēng)險(xiǎn)，Jumio正在采取積極措施，利用AI來對抗AI驅(qū)動(dòng)的欺詐?！拔覀儽仨毐３诸I(lǐng)先于欺詐技術(shù)。事實(shí)上，越來越多的企業(yè)正在利用基于AI的生物識(shí)別和活體檢測技術(shù)來加固其欺詐預(yù)防系統(tǒng)?！倍∧饶冉忉尩溃癑umio數(shù)字身份調(diào)查顯示，由于生成式AI的興起和深偽圖像的出現(xiàn)，54%的全球受訪者認(rèn)為面部識(shí)別技術(shù)在身份驗(yàn)證方面將發(fā)揮更大的價(jià)值。”

為了防止深度偽造，Jumio采用了先進(jìn)的AI和機(jī)器學(xué)習(xí)模型，這些模型經(jīng)過各種真實(shí)世界數(shù)據(jù)的訓(xùn)練。通過活體檢測技術(shù)，Jumio能夠發(fā)現(xiàn)復(fù)雜的攻擊，包括人臉交換、人臉變形和其他高級的欺騙攻擊。

欺詐者通常會(huì)以多個(gè)組織或消費(fèi)者群體而非單一組織或個(gè)體為目標(biāo)。Jumio推出了一種新的欺詐分析技術(shù)，該技術(shù)利用AI驅(qū)動(dòng)的預(yù)測分析來識(shí)別跨企業(yè)網(wǎng)絡(luò)的欺詐模式，并在用戶通過身份驗(yàn)證流程時(shí)準(zhǔn)確預(yù)測發(fā)生欺詐的可能性。

此外，Jumio還在注冊過程中加入被動(dòng)風(fēng)險(xiǎn)信號(hào)，如驗(yàn)證用戶的個(gè)人身份信息、評估電子郵件和電話號(hào)碼的信用級別等，以提供更多一層保障。

Jumio的身份驗(yàn)證流程簡潔高效，用戶只需拍攝身份證照片和自拍，即可在幾秒鐘內(nèi)完成身份驗(yàn)證。當(dāng)用戶上傳的照片不符合要求時(shí)，系統(tǒng)會(huì)提示用戶重新提交，從而降低因多次嘗試失敗而放棄的比率。

Jumio能夠基于面部的生物識(shí)別技術(shù)將自拍照中的特定面部特征（如眼睛、鼻子和耳朵的間距）與身份證件照片中的面部特征進(jìn)行比較，來判斷兩者是否為一個(gè)人。通過活體檢測技術(shù)，還可以發(fā)現(xiàn)復(fù)雜的攻擊，包括人臉交換、人臉變形和其他高級的欺騙攻擊。

此外，Jumio采用了主動(dòng)光源、視頻注入檢測以及眼部和面部運(yùn)動(dòng)分析等技術(shù)來阻止攻擊，并確認(rèn)當(dāng)前用戶及其身份證件確實(shí)存在。

在加強(qiáng)身份欺詐防范方面，Jumio會(huì)采用各種AI驅(qū)動(dòng)的方法對身份證件進(jìn)行欺詐檢查，確保數(shù)據(jù)和照片沒有被篡改，包括采用基于面部的生物識(shí)別技術(shù)和先進(jìn)的活體檢測技術(shù)來檢測復(fù)雜的欺騙攻擊，如人臉互換和人臉變形。整個(gè)過程非常簡單，只需拍一張身份證照片，然后自拍，即可在幾秒鐘內(nèi)實(shí)現(xiàn)身份驗(yàn)證。用戶旅程簡便、快速，能夠讓合法使用者快速登錄，同時(shí)將欺詐者拒之門外。

結(jié)語

隨著生成式人工智能技術(shù)的進(jìn)步，深度偽造的發(fā)生頻率持續(xù)上升，這表明我們檢測這些欺騙行為的整體能力還存在巨大差距。這種持續(xù)的過度自信更反映出加強(qiáng)公共教育和使用更有效的技術(shù)解決方案的必要性。企業(yè)和消費(fèi)者必須合作強(qiáng)化數(shù)字安全措施，以有效防止身份欺詐。

Jumio通過整合的端對端身份驗(yàn)證和eKYC平臺(tái)，提供了一系列身份驗(yàn)證服務(wù)，從賬戶開立到持續(xù)監(jiān)控，確保在線用戶的真實(shí)身份，保護(hù)企業(yè)的生態(tài)系統(tǒng)，并且可以滿足KYC/AML要求。

Jumio利用自動(dòng)化、生物識(shí)別、人工智能/機(jī)器學(xué)習(xí)、活體檢測和無代碼編排等強(qiáng)大技術(shù)，結(jié)合數(shù)百個(gè)數(shù)據(jù)源，幫助企業(yè)有效打擊欺詐行為和金融犯罪，確保真實(shí)客戶能夠快速完成登錄，并滿足包括KYC和AML在內(nèi)的各項(xiàng)監(jiān)管合規(guī)要求。Jumio已在全球范圍內(nèi)處理了超過10億筆身份驗(yàn)證的交易，業(yè)務(wù)覆蓋200多個(gè)國家和地區(qū)。

Jumio的未來目標(biāo)是不斷提升欺詐檢測技術(shù)，以適應(yīng)不斷變化的欺詐策略和技術(shù)環(huán)境。隨著生成式AI的易獲取性，欺詐策略正在跨行業(yè)演變，不僅僅限于金融服務(wù)。Jumio將繼續(xù)投資研發(fā)，保持在欺詐檢測、合規(guī)性和用戶體驗(yàn)方面的領(lǐng)先地位。

lixiangjing

算力豹主編