他指出,晶體管數(shù)量每年增加50%,但CPU的性能僅增長(zhǎng)10%,摩爾定律已經(jīng)終結(jié)。NVIDIA的GPU彌補(bǔ)了CPU的不足,所以CUDA開(kāi)發(fā)人員5年內(nèi)增長(zhǎng)了14倍,達(dá)到60萬(wàn)人。
AI正在崛起
AI正在崛起,今年已獲得66億美元的融資,深度學(xué)習(xí)論文超過(guò)3千篇,頂級(jí)機(jī)器學(xué)習(xí)和AI盛會(huì)NIPS的與會(huì)者呈井噴式增長(zhǎng)。開(kāi)發(fā)人員正在應(yīng)用深度學(xué)習(xí)實(shí)現(xiàn)驚人突破。
NVIDIA 對(duì)CUDA GPU的發(fā)展、投資和承諾,確保了最豐富的生態(tài)系統(tǒng)、最龐大的專(zhuān)家級(jí)開(kāi)發(fā)者群體。
NVIDIA 將全力推進(jìn)“統(tǒng)一架構(gòu)”CUDA GPU技術(shù),確保在NVIDIA 平臺(tái)上的投資,通過(guò)Inception計(jì)劃,支持1900家初創(chuàng)公司創(chuàng)建AI未來(lái)。
AI將注入萬(wàn)億級(jí)物聯(lián)網(wǎng)設(shè)備,監(jiān)測(cè)一切
AI推理是下一個(gè)巨大挑戰(zhàn),AI是軟件的未來(lái),可以讓人們重新暢想各種服務(wù)、軟件、計(jì)算機(jī)和設(shè)備。經(jīng)過(guò)訓(xùn)練的網(wǎng)絡(luò)將展現(xiàn)驚人智慧,并融入萬(wàn)億物聯(lián)網(wǎng)設(shè)備中。AI會(huì)將智能注入2000萬(wàn)臺(tái)云服務(wù)器、上億臺(tái)汽車(chē)和機(jī)器人中,最終,以萬(wàn)億計(jì)的物聯(lián)網(wǎng)設(shè)備和傳感器將智能地監(jiān)測(cè)一切,從心率和血壓,到設(shè)備維修。
首款可編程AI推理加速器TensorRT 3發(fā)布
NVIDIA發(fā)布了全世界首款可編程AI推理加速器TensorRT 3。
TensorRT 3 與NVIDIA GPU的結(jié)合能夠基于所有的框架、為諸如圖像和語(yǔ)音識(shí)別、自然語(yǔ)言處理、視覺(jué)搜索和個(gè)性化建議等人工智能服務(wù)提供超快速且高效的推理。此外,TensorRT 和NVIDIA Tesla GPU加速器的速度可達(dá)到CPU的40倍,而相較于基于CPU的解決方案,成本僅為其十分之一。
TensorRT 3 是一款針對(duì)人工智能應(yīng)用生產(chǎn)部署的高性能優(yōu)化編譯器和運(yùn)行時(shí)引擎,用于在生產(chǎn)環(huán)境中部署深度學(xué)習(xí)程序。它能夠快速優(yōu)化、驗(yàn)證并部署經(jīng)過(guò)訓(xùn)練的神經(jīng)網(wǎng)絡(luò),從而在超大型數(shù)據(jù)中心、嵌入式 GPU 或車(chē)用 GPU 平臺(tái)上開(kāi)展推理工作。
它能夠確保高度精確的INT8 和 FP16 網(wǎng)絡(luò)執(zhí)行,每年能為數(shù)據(jù)中心運(yùn)營(yíng)商節(jié)省數(shù)以百萬(wàn)美元計(jì)的采購(gòu)和用電成本。借助它,開(kāi)發(fā)者只需短短一天就能完成神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,打造一個(gè)比其訓(xùn)練框架快3至5倍的可部署推理解決方案。
省錢(qián):一臺(tái)8 GPU V100服務(wù)器可替換160臺(tái)雙CPU服務(wù)器
黃仁勛宣布,阿里云、百度和騰訊均已在其云服務(wù)中部署 Tesla V100 GPU 加速器。另外,包括華為、浪潮和聯(lián)想在內(nèi)的中國(guó)頂尖 OEM 均已采用NVIDIA的 HGX 服務(wù)器架構(gòu)并使用 Tesla V100 GPU 來(lái)構(gòu)建新一代加速數(shù)據(jù)中心。
阿里云、百度和騰訊均在升級(jí)其龐大的數(shù)據(jù)中心,從基于 NVIDIA Pascal 的系統(tǒng)轉(zhuǎn)而采用基于 Volta 的平臺(tái),從而為人工智能推理和訓(xùn)練提供非凡的速度和可擴(kuò)展性。
基于 Volta 的全新系統(tǒng)的核心是NVIDIA V100 數(shù)據(jù)中心 GPU。該 GPU 配備有 210 億個(gè)晶體管,性能較早前的 NVIDIA Pascal 架構(gòu)P100 GPU提升了5 倍,同時(shí)可提供相當(dāng)于 100 個(gè) CPU 的深度學(xué)習(xí)性能。這一性能的提升相較于摩爾定律對(duì)同一時(shí)期的預(yù)測(cè)提升了4 倍。
黃仁勛展示,只需一臺(tái)8 GPU V100服務(wù)器就可替換160臺(tái)雙CPU服務(wù)器或4個(gè)機(jī)架,每臺(tái)V100服務(wù)器可節(jié)省50萬(wàn)美元。
AI,正在解決以前無(wú)法解決的問(wèn)題
利用NVIDIA GPU加速的平臺(tái),在視頻中實(shí)現(xiàn)了以秒級(jí)速度查詢(xún)語(yǔ)音。
阿里云、騰訊云、京東云等中國(guó)云服務(wù)提供商已經(jīng)采用NVIDIA GPU加速的平臺(tái),把AI融入到商業(yè)、社交、新聞、視頻等各個(gè)領(lǐng)域。
到2020年,城市中實(shí)時(shí)攝像頭將達(dá)到10億,AI是唯一解決方案。海康威視、大華、華為、阿里巴巴都提供基于NVIDIA GPU平臺(tái)的AI視頻界方案,推動(dòng)AI城市的實(shí)現(xiàn)。
AI也是自動(dòng)駕駛汽車(chē)變革的推動(dòng)者。NVIDIA DRIVE是為自動(dòng)駕駛行業(yè)帶來(lái)端到端解決方案的計(jì)算平臺(tái)。
自主機(jī)器時(shí)代已來(lái)
教機(jī)器人與外部世界交互和執(zhí)行是一項(xiàng)復(fù)雜的任務(wù),能夠自我感知的自主機(jī)器時(shí)代正在來(lái)臨。
NVIDIA 已經(jīng)設(shè)計(jì)了首款自主機(jī)器處理器Xavier,這款迄今最復(fù)雜的片上系統(tǒng)將于明年一季度提供給早期合作伙伴,第四季度全面推出。
黃仁勛宣布,將與中國(guó)大型在線(xiàn)零售商京東合作。京東每年配送的包裹數(shù)量超過(guò) 300 億,且這一數(shù)字還在以50% 的速度逐年增長(zhǎng)。
為應(yīng)對(duì)如此大的增幅,京東正著手推出能夠向客戶(hù)派發(fā)包裹的 JDrover,以及能攜帶 30 公斤包裹的無(wú)人機(jī) JDrone。京東的目標(biāo)是在 2022 年之前建設(shè)一支擁有 100 萬(wàn)架無(wú)人機(jī)的機(jī)群。
上述兩種配送工具均由京東創(chuàng)新實(shí)驗(yàn)室 JD X 負(fù)責(zé)開(kāi)發(fā),由 NVIDIA Jetson 超級(jí)計(jì)算平臺(tái)提供技術(shù)支持,且運(yùn)行 TensorRT以實(shí)現(xiàn)導(dǎo)航和無(wú)人送貨。
黃仁勛說(shuō),自主機(jī)器要解決三大根本問(wèn)題:一是為自主機(jī)器打造平臺(tái),二是為機(jī)器創(chuàng)造一個(gè)虛擬的環(huán)境,三是把AI大腦放到機(jī)器中去。
目前還沒(méi)有完全解決,但都在并行發(fā)展中。明年將把三大地基都打好,隨后的10-15年中,令人激動(dòng)人心的事情將一浪一浪接踵而來(lái)。這將是我們一輩子也難遇到的時(shí)代。