Oracle 不僅提供集成且無縫的 AI 體驗,還可以在您需要的任何地方提供 AI 產(chǎn)品。您可以在 Oracle Cloud 中使用 Oracle 云基礎(chǔ)設(shè)施遠(yuǎn)程軟件服務(wù)(Oracle Cloud Infrastructure, OCI) Generative AI 利用公有云的優(yōu)勢,按需擴(kuò)展解決方案、定制模型并為企業(yè)創(chuàng)建專用模型端點(diǎn)。借助 OCI Dedicated Region,Oracle 還可以在您的數(shù)據(jù)中心內(nèi)提供生成式 AI 服務(wù),讓您可以將生成式 AI 功能與本地數(shù)據(jù)和應(yīng)用相結(jié)合。
Wikibon 首席研究官 Dave Vellante 表示:“Oracle 在企業(yè)生成式 AI 方面采用了全棧方法。Oracle 的價值始于堆棧的頂端,而不是硅。通過在 Oracle Fusion SaaS 應(yīng)用中提供集成的生成式 AI,Oracle 將與客戶業(yè)務(wù)價值建立直接關(guān)聯(lián)。這些應(yīng)用由自帶向量嵌入的自治數(shù)據(jù)庫提供支持,并在 OCI 中的高性能基礎(chǔ)設(shè)施上運(yùn)行,或者通過 Dedicated Region 在本地運(yùn)行。這些產(chǎn)品構(gòu)成了高度差異化的企業(yè) AI 策略,涵蓋了從開箱即用的 RAG,各種微調(diào)模型,再到整個集成堆棧中的 AI 技術(shù)。據(jù) Oracle 研究表明,2023 年是 AI 實驗?zāi)?。有了這些優(yōu)勢,我們希望 2024 年能夠成為 AI 領(lǐng)域投資的豐收年?!?/p>
Oracle 如何提供這些功能?
今天,我們很高興地宣布推出一系列創(chuàng)新成果,包括新服務(wù)和新功能,為您的生成式 AI 之旅保駕護(hù)航。
全新:OCI Generative AI 服務(wù)正式發(fā)行版
隨著 AI 策略的進(jìn)展,Oracle 宣布正式推出 OCI Generative AI 服務(wù),這是一個能夠?qū)?LLM 無縫集成到各種企業(yè)用例中的托管服務(wù)。
OCI Generative AI 服務(wù)現(xiàn)在支持 Meta 的 Llama 2 和 Cohere 的模型,并包含了 100 多種語言的多語言嵌入功能。Oracle 還做出了一些改進(jìn),讓您能夠更輕松地結(jié)合使用 LLM 與 LangChain 集成、端點(diǎn)管理和內(nèi)容審核等功能。
OCI Generative AI 也包含了經(jīng)過優(yōu)化的 GPU 集群管理體驗,包括為主機(jī)集群提供多端點(diǎn)支持,支持通過擴(kuò)展集群處理更多模型請求,以及提供端點(diǎn)分析。
OCI Generative AI 服務(wù)現(xiàn)在還支持企業(yè)對 Cohere 的 Command 52/6B 模型進(jìn)行靈活微調(diào),讓企業(yè)可以有信心地確保他們的 AI 適應(yīng)了特定業(yè)務(wù)環(huán)境。
借助 OCI Generative AI 服務(wù),客戶可以處理各種用例,包括:
· 客戶運(yùn)營:根據(jù)客戶的產(chǎn)品套件、體驗和語言實現(xiàn)自動化客戶服務(wù)。
· 市場營銷:基于買家檔案和使用歷史記錄,大規(guī)模進(jìn)行個性化搜索、推廣和客戶培養(yǎng)。
· 銷售:構(gòu)建虛擬銷售代表,引導(dǎo)潛在客戶認(rèn)識產(chǎn)品和下單。
· 風(fēng)險和法務(wù):在多語言支持下基于現(xiàn)有優(yōu)秀實踐,加快合同編寫和起草流程。
· 策略和財務(wù):通過公共和私有信息來源,大規(guī)模監(jiān)視競爭對手和客戶動態(tài)。
全新:OCI Generative AI Agents(測試版)
我們推出了 OCI Generative AI Agents 服務(wù)的測試版。Agent 主要負(fù)責(zé)將用戶查詢轉(zhuǎn)換為任務(wù),由 Generative AI 組件(搜索工具、文檔語料庫、LLM、響應(yīng)生成等)執(zhí)行并響應(yīng)。OCI Generative AI Agents 系列中首個亮相的是檢索增強(qiáng)生成 (RAG) Agent。RAG Agent 可通過 OCI OpenSearch 查詢內(nèi)部數(shù)據(jù),彌補(bǔ) LLM 通用知識的不足,進(jìn)而提供符合情境的答案?,F(xiàn)在,用戶可以使用自然語言透明地訪問各種企業(yè)數(shù)據(jù)集,無需掌握專業(yè)知識,也無需知道數(shù)據(jù)的格式或存儲位置。
舉個例子,當(dāng)終端用戶要求 AI Agent 匯總與請病假相關(guān)的人力資源政策時,查詢會向模型發(fā)出指令,以便在內(nèi)部文檔庫中搜索相關(guān)政策。然后,該模型使用 RAG 功能提取相關(guān)段落,基于這些信息生成人類語言響應(yīng),并附上相關(guān)源文檔的超鏈接。然后,AI Agent 將以自然語言向最終用戶提供響應(yīng)結(jié)果。用戶可以針對相關(guān)政策繼續(xù)進(jìn)行提問,AI Agent 也會繼續(xù)根據(jù)對話情境回答問題,提供準(zhǔn)確且類人的體驗。在該服務(wù)的未來迭代中,終端用戶將能夠提示 AI Agent 采取進(jìn)一步操作,例如編輯原始文檔或進(jìn)行 HR 系統(tǒng)更新。
OCI Generative AI Agents 的初始測試版支持 OpenSearch 訪問內(nèi)部企業(yè)數(shù)據(jù),未來即將推出的其它版本將支持更多 LLM,并支持通過 AI Vector Search 訪問 Oracle Database 23c 以及通過 Vector Store 訪問 MySQL HeatWave。如此一來,用戶可以構(gòu)建能夠自動與 Oracle 和第三方應(yīng)用交互的 Agent,并指導(dǎo) Agent 根據(jù)查詢結(jié)果采取行動。
全新:OCI Data Science AI Quick Actions 特性
OCI Data Science AI Quick Actions 是 OCI Data Science 服務(wù)的一個無代碼功能,支持用戶訪問各種開源 LLM,包括 Meta、Mistral AI 等。在正式發(fā)行版中,這個功能以預(yù)計將提供更廣泛的開源 LLM 選項以供訪問。
OCI Data Science Quick Actions 讓用戶可以訪問一系列的精選模型,并使用自己的數(shù)據(jù)進(jìn)行微調(diào)、評估和部署。同時,該功能還包含了一個完整的生態(tài)系統(tǒng),其中包括用戶友好的工作流、集成的遙測和可視化功能以及簡化的執(zhí)行流程。
在正式發(fā)行版中,AI Quick Actions 將為您提供:
· 驗證和環(huán)境預(yù)檢查
· 精選預(yù)測試模型列表,包括 LLM
· 多個精選部署方案
· 模型搜索和篩選功能,可靈活選擇符合客戶需求的模型
· 只需點(diǎn)擊幾下即可執(zhí)行微調(diào)任務(wù)的界面,提供指導(dǎo)步驟
· 可以直接從控制臺執(zhí)行的微調(diào)監(jiān)視任務(wù)
· 用于快速測試已部署模型的練習(xí)區(qū)功能
OCI Generative AI 已集成到 Oracle 數(shù)據(jù)庫和 Oracle Cloud Apps 等技術(shù)堆棧中
Oracle Fusion Cloud Applications、Oracle NetSuite 和 Oracle Health 及其他行業(yè)應(yīng)用將新增生成式 AI 功能,該功能由 OCI Generative AI 中的模型提供支持。初始用例將側(cè)重于匯總和輔助創(chuàng)作,例如匯總績效復(fù)核結(jié)果、輔助編寫職務(wù)說明、輔助創(chuàng)建目標(biāo)、撰寫知識文章以及生成相關(guān)的客戶服務(wù)電子郵件。員工可以在日常辦公的軟件環(huán)境中獲得這些 AI 功能,進(jìn)而提高他們在核心任務(wù)和工作流方面的生產(chǎn)力和效率。
當(dāng)然,Oracle 還將生成式 AI 功能嵌入到數(shù)據(jù)庫組合中。帶有 AI Vector Search 的 Oracle Database 23c 和帶有 Vector Store 的 MySQL HeatWave 雙雙提供了 RAG 功能,讓用戶可以將內(nèi)部數(shù)據(jù)與 LLM 相結(jié)合,從而根據(jù)提示生成更準(zhǔn)確、更符合情境的答案。
此外,通過 Autonomous Database Select AI,客戶可以在與 Oracle 自治數(shù)據(jù)庫交互時使用自然語言進(jìn)行 LLM 查詢,再也無須編寫 SQL 腳本。有鑒于此,客戶能夠在應(yīng)用開發(fā)中更快地采用 AI。企業(yè)及其客戶可以使用與 Oracle Database AI Vector Search 相結(jié)合的 Select AI 自然語言界面,更快、更直觀地從自己的數(shù)據(jù)獲取洞察。例如,零售商可以按需獲得自定義庫存洞察,受監(jiān)管組織的員工則可以快速查詢大量的法規(guī)來檢查合規(guī)性。
Oracle AI:即將推出的增強(qiáng)功能
除了發(fā)展生成式 AI 之外,Oracle 也將繼續(xù)改進(jìn)現(xiàn)有的 AI 產(chǎn)品。Oracle 的策略是為企業(yè)提供多種選擇,確保您取得成功。因此,我們將為您提供多個增強(qiáng)功能,其中包括:
· Oracle Digital Assistant:現(xiàn)在,您可以將 LLM 中的數(shù)據(jù)以及企業(yè)數(shù)據(jù)融入聊天體驗中。Oracle Digital Assistant 將數(shù)據(jù)庫信息、企業(yè)知識文檔和生成式 AI 相結(jié)合,盡可能減輕實現(xiàn)自然語言對話所需的工作量。開發(fā)人員可以使用生成式 AI 功能,更快速、更高效地構(gòu)建數(shù)字助手。
· OCI Language:通過自然語言處理,增加醫(yī)療信息洞察力。這個 OCI Language 服務(wù)的新功能可幫助客戶更好地處理醫(yī)療領(lǐng)域的語言。新模型有助于識別各種記錄中的醫(yī)學(xué)術(shù)語、關(guān)系和實體,例如臨床試驗記錄、患者進(jìn)度記錄和電子健康記錄。
· Document Translation Experience:新增基于文件的文檔翻譯功能支持各種格式(Word、PPT、HTML、JSON 和 Excel),可翻譯各種類型的文件并確保內(nèi)容的一致性和完整性。
· OCI Vision:新增 Facial Detection 功能,可識別圖像中的人臉和面部特征,并擴(kuò)展 OCI Vision 用例的數(shù)量。此外,OCI Vision 也將支持基于文件的視頻處理。
· OCI Speech:新增聲紋分割聚類功能,可將說話人信息嵌入到音頻轉(zhuǎn)錄內(nèi)容中。該功能使 OCI Speech 成為一款寶藏工具,可以組織和分析人生對話,并從中提取有意義的信息。此外,OCI Speech 還將支持 Whisper 等開源模型的實時轉(zhuǎn)錄和使用。
· OCI Document Understanding:新增 300 多種語言支持和模型改進(jìn)。
· OCI Data Science:新增 Feature Store,一個用于管理數(shù)據(jù)科學(xué)團(tuán)隊開發(fā)功能的中央存儲庫。Feature Store 提供了一個統(tǒng)一框架,其中的功能以簡化的方式記錄、共享、存儲和提供。新增 Forecasting 運(yùn)算符,讓客戶可以使用無代碼運(yùn)算符,通過 OCI Data Science 服務(wù)利用 Oracle 專有的深度學(xué)習(xí)模型。
Oracle Generative AI 的差異化優(yōu)勢
我之前提到過,Oracle 先搞清楚企業(yè)成功實施生成式 AI 真正需要的是什么,再決定在生成式 AI 業(yè)務(wù)采用全面的方法。但除此之外,我們也遵循一些核心原則,以幫助我們確保新產(chǎn)品能夠為您帶來更多價值:
高效、可自定義的模型,專為企業(yè)用例而設(shè)計
我們提供以企業(yè)為中心的高性能和成本效益模型,支持多種用例和高效的微調(diào)。我們也越來越多地根據(jù)實際企業(yè)場景調(diào)整模型,并使用 Oracle 專有的知識和洞察,對大型語言模型進(jìn)行專業(yè)化訓(xùn)練,使其更適合企業(yè)使用 — 這些都是基于出色的 GPU 和高性能集群網(wǎng)絡(luò)來完成的。
在技術(shù)堆棧的每一層,嵌入生成式 AI 功能和服務(wù)
Oracle 在基礎(chǔ)設(shè)施層、平臺服務(wù)和業(yè)務(wù)應(yīng)用中融入了各種嵌入式和托管服務(wù)功能,可隨時助您順利完成生成式 AI 之旅。與 AI 協(xié)同工作看起來可能很有挑戰(zhàn)性,但如果您與一家創(chuàng)建了從數(shù)據(jù)到應(yīng)用的整個集成服務(wù)的云技術(shù)公司合作,那這件事就容易得多了。
優(yōu)先著重數(shù)據(jù)管理、安全性和治理的服務(wù) — 對企業(yè) AI 用例至關(guān)重要
借助 Oracle,您可以將 AI 模型實時連接到相關(guān)數(shù)據(jù),并檢索情境化響應(yīng)。此外,Oracle 還會繼續(xù)幫助您保障客戶數(shù)據(jù)的隱私和安全。我們不會與任何第三方模型提供商共享數(shù)據(jù)。為了加強(qiáng)數(shù)據(jù)隱私和安全保護(hù),我們可以選擇在不與其他客戶共享的托管 GPU 基礎(chǔ)設(shè)施上執(zhí)行 LLM 專用部署,并為您的數(shù)據(jù)中心提供生成式 AI 服務(wù)。
Oracle AI 平臺提供一整套高性能基礎(chǔ)設(shè)施、內(nèi)置 AI 和 ML 技術(shù)的數(shù)據(jù)庫和分析產(chǎn)品以及 AI 服務(wù),當(dāng)然還少不了面向應(yīng)用開發(fā)的生成式 AI 服務(wù)。而這僅僅是個開始。