使用 OpenAI 模型

截至目前，可通過兩種方法訪問和使用 OpenAI 模型：

1. Web 用戶界面——用于使用 ChatGPT、DALLE-2 或 OpenAI Playground。
2. API——用于構(gòu)建應(yīng)用、流程等。你可以使用自己的用戶界面，在后臺(tái)運(yùn)行 OpenAI 模型和數(shù)據(jù)。

下面的示例顯示了已將 OpenAI 的 API 模型整合到旗下應(yīng)用的合法品牌。

阻礙惡意內(nèi)容創(chuàng)建的障礙

作為內(nèi)容政策的一部分，OpenAI 設(shè)置了相關(guān)障礙和限制，以阻止在其平臺(tái)上創(chuàng)建惡意內(nèi)容。ChatGPT 在其用戶界面上設(shè)置了一些限制來防止模型的濫用。舉例來說，如果用戶要求 ChatGPT 編寫一封冒充銀行的釣魚郵件或創(chuàng)建一個(gè)惡意軟件，系統(tǒng)將不會(huì)執(zhí)行。

繞過限制創(chuàng)建惡意內(nèi)容

然而，CPR 表示，網(wǎng)絡(luò)犯罪分子正想方設(shè)法繞過 ChatGPT 的限制。在地下論壇上有關(guān)如何使用 OpenAI API 來繞過 ChatGPT 障礙和限制的討論帖不斷激增。

當(dāng)前版本的 OpenAI API 雖為外部應(yīng)用所使用（例如，將 OpenAI 的 GPT-3 模型整合到 Telegram 頻道中），但幾乎沒有任何防濫用措施。它并未實(shí)施 ChatGPT 在其用戶界面上設(shè)置的限制或障礙，允許創(chuàng)建釣魚郵件和惡意軟件代碼等惡意內(nèi)容。

例 1——Telegram OpenAI 機(jī)器人即服務(wù)

在一個(gè)地下論壇上，CPR 發(fā)現(xiàn)有網(wǎng)絡(luò)犯罪分子正在宣傳一項(xiàng)新創(chuàng)建的服務(wù)：支持無限制地使用 OpenAI API 的 Telegram 機(jī)器人。

作為商業(yè)模式的一部分，網(wǎng)絡(luò)犯罪分子可以使用 ChatGPT 進(jìn)行 20 次免費(fèi)查詢，此后每 100 次查詢需支付 5.50 美元。  

例 2——網(wǎng)絡(luò)犯罪分子提供的一個(gè)可繞過防濫用限制的簡單腳本

網(wǎng)絡(luò)犯罪分子創(chuàng)建了一個(gè)使用 OpenAI API 來繞過防濫用限制的簡單腳本。

通過這些案例，Check Point觀察到網(wǎng)絡(luò)犯罪分子不斷探索如何利用 ChatGPT 來滿足其開發(fā)惡意軟件和創(chuàng)建釣魚郵件的需求。隨著 ChatGPT 控制措施的改進(jìn)，網(wǎng)絡(luò)犯罪分子也將不斷尋找新的方法來使用 OpenAI 模型。因此可以預(yù)見，隨著AI技術(shù)的不斷落地，網(wǎng)絡(luò)犯罪分子的“技術(shù)成本”將進(jìn)一步降低；隨之而來的網(wǎng)絡(luò)攻擊數(shù)量也將不斷增長。因此，以預(yù)防為主、以AI對抗AI的網(wǎng)絡(luò)安全模式可能將成為未來幾年的主要發(fā)展趨勢。

songjy