圖2的趨勢(shì)類似，對(duì)ChatGPT的接受和普及導(dǎo)致DNS安全服務(wù)日志紀(jì)錄明顯增加。

Unit 42還通過(guò)高級(jí)URL過(guò)濾系統(tǒng)進(jìn)行了關(guān)鍵詞搜索。圖3顯示在OpenAI發(fā)布ChatGPT官方API和GPT-4的當(dāng)天出現(xiàn)了兩個(gè)明顯的上升峰值。

ChatGPT詐騙案例

Unit 42發(fā)現(xiàn)了多個(gè)仿冒OpenAI官方網(wǎng)站的釣魚(yú)URL。多數(shù)情況下，詐騙者會(huì)創(chuàng)建虛假網(wǎng)站，它們看起來(lái)與ChatGPT的官方網(wǎng)站十分相似，來(lái)誘騙用戶下載惡意軟件或分享敏感信息。

圖4展示了詐騙者用來(lái)發(fā)送惡意軟件的常見(jiàn)招數(shù)。用戶一旦點(diǎn)擊“下載 Windows 版本”的彈窗，就會(huì)在無(wú)意識(shí)的情況下下載特洛伊木馬軟件至其設(shè)備。

此外，不法分子還可能利用與ChatGPT相關(guān)的“社交工程”盜竊用戶身份和詐騙錢(qián)財(cái)。盡管OpenAI為用戶提供了ChatGPT的免費(fèi)版本，但詐騙者會(huì)將受害人引導(dǎo)至虛假網(wǎng)站，聲稱用戶需要為這些服務(wù)付費(fèi)。如圖5所示，偽造的ChatGPT網(wǎng)站試圖引誘受害人提供隱私信息，例如信用卡資料和郵箱。

Unit 42還注意到，一些詐騙者利用OpenAI的日益普及進(jìn)行加密貨幣詐騙。圖6顯示的是通過(guò)濫用 OpenAI 標(biāo)志和馬斯克的名字吸引受害人參加一項(xiàng)贈(zèng)送加密貨幣的欺詐活動(dòng)。

仿冒AI聊天機(jī)器人的風(fēng)險(xiǎn)

隨著ChatGPT成為今年最火爆的應(yīng)用之一，市面上也出現(xiàn)了越來(lái)越多的仿冒AI聊天機(jī)器人應(yīng)用程序。其中一些提供大型語(yǔ)言模型，還有的聲稱通過(guò)在3月1日公布的公共 API提供ChatGPT服務(wù)。然而，使用仿冒AI聊天機(jī)器人可能會(huì)帶來(lái)安全風(fēng)險(xiǎn)。

在ChatGPT API發(fā)布之前，已有數(shù)個(gè)開(kāi)源項(xiàng)目允許用戶通過(guò)各種自動(dòng)化工具連接到ChatGPT。由于一些國(guó)家和地區(qū)的用戶無(wú)法訪問(wèn)ChatGPT，這些自動(dòng)化工具和API創(chuàng)建的網(wǎng)站可能會(huì)吸引這些地區(qū)的大量用戶，但也同時(shí)為攻擊者提供了通過(guò)代理其服務(wù)謀取利益的機(jī)會(huì)。圖7就是一個(gè)提供付費(fèi)聊天機(jī)器人服務(wù)的中文網(wǎng)站。

事實(shí)上，無(wú)論是否免費(fèi)，仿冒聊天機(jī)器人都不可信。它們很多是基于2020年6月推出的GPT-3創(chuàng)建，比GPT-4和GPT-3.5更弱。

此外，使用聊天機(jī)器人還存在另一個(gè)重大風(fēng)險(xiǎn)：它們可能會(huì)收集和竊取用戶提供的信息。換言之，提供任何敏感或機(jī)密資料都可能導(dǎo)致風(fēng)險(xiǎn)隱患。聊天機(jī)器人的回應(yīng)也有可能被操縱給出錯(cuò)誤答案或誤導(dǎo)信息。

在圖8中，搶注域名chatgptforchrome[.]com托管了ChatGPT Chrome擴(kuò)展功能的介紹頁(yè)面，并使用了官方OpenAI擴(kuò)展功能的信息和視頻。Unit 42下載了圖8中的“AI ChatGPT”擴(kuò)展功能，發(fā)現(xiàn)它在受害人的瀏覽器中添加了一個(gè)后臺(tái)腳本，其中包含一個(gè)極具迷惑性的JavaScript。對(duì)該JavaScript的分析顯示，它通過(guò)調(diào)用Facebook Graph API竊取受害人的賬戶信息，并可能進(jìn)一步訪問(wèn)其社交媒體賬戶。其他研究人員也報(bào)告過(guò)類似涉及惡意瀏覽器擴(kuò)展功能的活動(dòng)。

結(jié)論

隨著ChatGPT的使用日益廣泛，它也逐漸成為網(wǎng)絡(luò)犯罪分子的目標(biāo)。數(shù)量急劇增加的ChatGPT相關(guān)新域名和網(wǎng)站都可能被用來(lái)行不法之事。

為了確保網(wǎng)絡(luò)安全，ChatGPT用戶需要警惕與ChatGPT有關(guān)的可疑郵件和鏈接，避免使用仿冒聊天機(jī)器人，應(yīng)由官方OpenAI網(wǎng)站進(jìn)入聊天室。

Palo Alto Networks（派拓網(wǎng)絡(luò)）的下一代防火墻和Prisma Access用戶可以通過(guò)采用高級(jí)URL過(guò)濾系統(tǒng)、DNS安全解決方案和防護(hù)引擎WildFire，遠(yuǎn)離ChatGPT相關(guān)騙局的侵害。

xiesc