吳迪表示，自今年5月15日豆包大模型發(fā)布以來(lái)，60天時(shí)間里云計(jì)算客戶總調(diào)用量增長(zhǎng)了三倍左右。隨著處理的問(wèn)題越來(lái)越多，火山引擎對(duì)市場(chǎng)挑戰(zhàn)的理解也越來(lái)越深刻，并將AI大模型落地具體行業(yè)所面臨的問(wèn)題總結(jié)為“三大挑戰(zhàn)”：

一是基礎(chǔ)模型是否足夠“聰明”；二是價(jià)格和成本；三是落地過(guò)程中所面臨新工作范式和企業(yè)原有IT系統(tǒng)之間的改造，以及兼容成本等具體問(wèn)題。

而對(duì)于這些問(wèn)題，豆包大模型則以更強(qiáng)模型、更低價(jià)格、更易落地的解決方案加以應(yīng)對(duì)。

吳迪表示，目前在字節(jié)跳動(dòng)企業(yè)內(nèi)部，包括抖音、剪映、頭條、豆包APP、飛書(shū)、懂車帝、貓箱、河馬、番茄等約50余個(gè)業(yè)務(wù)線在使用豆包大模型，在外部每天則有30余個(gè)行業(yè)客戶在使用。

而在價(jià)格方面，豆包通用模型pro的推理輸入為0.8厘/千tokens，輸出為2厘/千tokens。之所以能夠把價(jià)格做到這個(gè)水平，背靠的則是強(qiáng)勁的系統(tǒng)承載力、充沛算力，以及積累多年的推理算法、系統(tǒng)優(yōu)化及系統(tǒng)調(diào)度能力。

首先，火山引擎擁有海量GPU資源，目前在豆包大模型和火山方舟平臺(tái)，已投入多達(dá)數(shù)萬(wàn)張不同型號(hào)GPU算力。

同時(shí)，造成算力枯竭的一個(gè)重要原因，是很多企業(yè)做不到靈活調(diào)配GPU算力，從而造成2/3甚至更多時(shí)間里，算力出現(xiàn)閑置或低效率表現(xiàn)。而火山引擎通過(guò)極致調(diào)度，避免浪費(fèi)，則可以進(jìn)一步將成本優(yōu)勢(shì)控制到同行的1/3甚至1/10。

第三則是極致彈性?；鹕揭婵梢宰龅椒昼娂?jí)完成數(shù)千卡伸縮，有效支持突發(fā)流量和業(yè)務(wù)高峰。而火山引擎推出的多種批量推理模式，則提供了業(yè)界領(lǐng)先的TPU初始額度。

除此之外，火山引擎還配備了優(yōu)秀精干的算法工程師團(tuán)隊(duì)，支撐企業(yè)客戶需求以及疑難問(wèn)題的解決，用抖音內(nèi)容、抖音搜索、知識(shí)庫(kù)等插件，配合Coze扣子平臺(tái)，打造更易使用的開(kāi)發(fā)者環(huán)境，并利用安全沙箱，使客戶可以更加放心地使用大模型。

在安全方面，首先通過(guò)TLS和安全沙箱實(shí)現(xiàn)雙向身份認(rèn)證和加密，建立互信連接，保證用戶訪問(wèn)的安全。

其次則通過(guò)全鏈路數(shù)據(jù)加密，確保用戶的使用安全。

第三則是通過(guò)安全沙箱技術(shù)，杜絕內(nèi)外風(fēng)險(xiǎn)入侵和數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

第四是“信息無(wú)痕”，做到“全鏈路”、“全內(nèi)存”、“零日志”，在任務(wù)結(jié)束時(shí)安全沙箱自動(dòng)銷毀，用戶畫(huà)像全程無(wú)痕。

第五是操作可審計(jì)，對(duì)沙箱系統(tǒng)及用戶流量的訪問(wèn)均有日志記錄，客戶也可以自行通過(guò)token API的方式對(duì)日志進(jìn)行審計(jì)。

目前，火山引擎新升級(jí)的內(nèi)容和聯(lián)網(wǎng)插件提供包括金融、旅游、影視、生活服務(wù)等27個(gè)行業(yè)垂直內(nèi)容的數(shù)據(jù)源，并新增抖音百科類型數(shù)據(jù)。

吳迪表示，升級(jí)后的知識(shí)庫(kù)，在文檔解析和檢索能力方面都有了大幅提高，可以應(yīng)對(duì)包括圖片、多列表格、PPT、Markdown等更豐富的文檔類型，并更具性價(jià)比，支持向量庫(kù)的語(yǔ)義檢索以及類似傳統(tǒng)搜索引擎的準(zhǔn)確檢索等。

在活動(dòng)現(xiàn)場(chǎng)，火山引擎還公開(kāi)發(fā)布了全新的Coze扣子專業(yè)版，用于企業(yè)開(kāi)發(fā)智能體。吳迪表示，火山引擎將在Coze扣子專業(yè)版上提供企業(yè)級(jí)穩(wěn)定性保障，以及一鍵式接入火山方舟模型的能力、更高的tokens配額。

作為零售行業(yè)大模型生態(tài)聯(lián)盟的發(fā)起者之一，多點(diǎn)DMALL創(chuàng)始人、物美集團(tuán)創(chuàng)始人張文中博士也來(lái)到現(xiàn)場(chǎng)，并從具體的操作層面，與在場(chǎng)與會(huì)者分享了大模型如何在零售行業(yè)中具體落地。

張文中提出，目前AI大模型已經(jīng)可以廣泛應(yīng)用于包括超市智能防損、智能補(bǔ)貨、智能客服、以及折扣出清等多個(gè)方面。由于豆包大模型tokens定價(jià)極低，很多以往很難解決的難題，現(xiàn)在都有了很高性價(jià)比的解決方案。

張文中最后表示，AI時(shí)代，零售企業(yè)再也不能“單打獨(dú)斗”。大模型時(shí)代，行業(yè)更需要攜手共進(jìn)，希望與火山引擎一起，向零售界發(fā)出呼吁，通過(guò)全面擁抱AI，一起努力共創(chuàng)智慧零售的新未來(lái)。（作者：梁蕓）

xiesc