阿里巴巴近期使用NVIDIA GPU大規(guī)模部署AI，在年度最大購(gòu)物節(jié)日——“雙十一”，為客戶提供服務(wù)。

在今年“雙十一”購(gòu)物節(jié)期間，阿里巴巴創(chuàng)造了380億美元的銷售額，相比于去年的310億美元，增長(zhǎng)了近四分之一，是“黑色星期五”和“網(wǎng)購(gòu)星期一”的網(wǎng)購(gòu)銷售額總和的兩倍多。

每天有超過(guò)1億購(gòu)物者在其網(wǎng)站上瀏覽數(shù)十億種商品。在購(gòu)物高峰日，網(wǎng)站活動(dòng)量更是會(huì)猛增，阿里巴巴的系統(tǒng)每秒需要處理數(shù)十萬(wàn)個(gè)查詢。

阿里巴巴異構(gòu)計(jì)算總監(jiān)徐凌杰表示，能夠保證了這一切都能正常運(yùn)行，正是AI 的功勞。

他表示：“為了能夠給用戶帶來(lái)良好的客戶體驗(yàn)，我們采用NVIDIA加速計(jì)算平臺(tái)大規(guī)模部署先進(jìn)的AI技術(shù)，包括T4 GPU、cuBLAS、自定義混合精度和推理加速軟件等?！?

“通過(guò)該平臺(tái)的直觀搜索功能和可靠的推薦，我們能夠支持比過(guò)去復(fù)雜6倍的模型，從而使點(diǎn)擊率提高10％。相比于CPU，T4將我們最大模型的吞吐量提高了100倍。”

對(duì)于阿里巴巴和其他領(lǐng)先的網(wǎng)絡(luò)零售商來(lái)說(shuō)，推薦系統(tǒng)都是一個(gè)至關(guān)重要的應(yīng)用程序。該系統(tǒng)可以向用戶展示與其喜好相匹配的商品，從而提高點(diǎn)擊率。而點(diǎn)擊率在電商行業(yè)一直都是提高銷售量的重要驅(qū)動(dòng)力。

點(diǎn)擊率的每一次小幅提高都會(huì)直接影響用戶的體驗(yàn)和商家的營(yíng)收。使用能夠?qū)崟r(shí)大規(guī)模運(yùn)行的先進(jìn)推薦系統(tǒng)模型可使點(diǎn)擊率提高10％，目前這只能通過(guò)GPU實(shí)現(xiàn)。

阿里巴巴團(tuán)隊(duì)使用NVIDIA GPU支持資源分配、模型量化和圖變換三項(xiàng)優(yōu)化策略，從而提高吞吐量和響應(yīng)性。

這使得NVIDIA T4 GPU能夠?yàn)榘⒗锇桶蛷V泛、深入的推薦模型提供加速，實(shí)現(xiàn)每秒處理780個(gè)查詢。這遠(yuǎn)遠(yuǎn)領(lǐng)先于基于CPU的推理 —— 后者每秒只能處理3個(gè)查詢。

阿里巴巴還部署了NVIDIA GPU為各類系統(tǒng)提速，包括自動(dòng)廣告橫幅生成、廣告推薦、幫助識(shí)別假冒產(chǎn)品的圖像處理、語(yǔ)言翻譯以及語(yǔ)音識(shí)別等系統(tǒng)。作為全球第三大云服務(wù)提供商，阿里云提供了多種能夠智能調(diào)度、自動(dòng)維護(hù)和實(shí)時(shí)擴(kuò)容的異構(gòu)計(jì)算產(chǎn)品。

面對(duì)數(shù)十億種可供選擇的商品，AI已成為幫助購(gòu)物者篩選，并為其提供最相關(guān)建議的關(guān)鍵。NVIDIA的AI平臺(tái)通過(guò)使用最先進(jìn)的AI模型來(lái)滿足這一需求。

阿里巴巴富有遠(yuǎn)見(jiàn)性地部署了NVIDIA的AI平臺(tái)，表明在廣泛的新興行業(yè)中，未來(lái)還將會(huì)有更加蓬勃的發(fā)展。

正如其工具能為數(shù)百萬(wàn)消費(fèi)者篩選數(shù)十億的產(chǎn)品一樣，運(yùn)行于NVIDIA GPU之上的AI推薦程序還將在其它數(shù)不勝數(shù)的數(shù)字服務(wù)中找到一席之地，這些服務(wù)包括應(yīng)用app store、新聞提要、餐廳指南和音樂(lè)服務(wù)，為用戶提供優(yōu)質(zhì)的用戶體驗(yàn)。

zhangnn