中國眾多的機器智能創(chuàng)新者活躍在各個AI領(lǐng)域的世界前端,通過IPU開發(fā)者云,前沿機器智能創(chuàng)新者可以快速便捷地獲取IPU云,避開自建機房或者申購IPU服務(wù)器等繁瑣內(nèi)部流程,專注于在IPU上快速運行自己的AI模型結(jié)果。
“我們在與創(chuàng)新者交流時,很多創(chuàng)新者想要使用IPU來運行自己的算法模型,以期獲得更好的運行結(jié)果,但受制于各種條件限制,難以達(dá)成?!盙raphcore高級副總裁兼中國區(qū)總經(jīng)理盧濤表示,“因此我們推出了IPU開發(fā)者云,開發(fā)者們可以很方便地使用IPU進行訓(xùn)練與推理任務(wù),探索自己的算法模型的極致表現(xiàn),并且它是免費的,我們的本地工程支持團隊還會和開發(fā)者們一同制定工程計劃,全程提供咨詢與支持。”
開發(fā)者在運行先進的AI算法模型時,最常遇到兩大困擾:一是他們將要求提供給算力平臺部門時,經(jīng)常得到的反饋是GPU目前不能夠支持他們想要的低時延和高吞吐量;二是他們的算法模型在GPU上跑的速度非常慢,經(jīng)常產(chǎn)生有可能是算法本身問題的誤導(dǎo)。這是由于GPU從來不是為了滿足機器學(xué)習(xí)的計算需求而設(shè)計的。而與當(dāng)今的CPU和GPU完全不同,Graphcore從零設(shè)計的IPU是一種高度靈活、易于使用的并行處理器,專門適用于算力密集型的機器學(xué)習(xí)和深度學(xué)習(xí)任務(wù),能在目前用于訓(xùn)練和推理的機器智能模型上實現(xiàn)最先進的性能。
借助IPU開發(fā)者云,創(chuàng)新者可以使自己的算法任務(wù)直達(dá)IPU,避開傳統(tǒng)硬件的限制陷阱,使得自己的算法模型不用因硬件受阻而妥協(xié)。創(chuàng)新者們可以在IPU上最大程度地釋放算法模型的潛能,使結(jié)果值抵達(dá)最優(yōu),并在IPU上探索更多的可能性,全方位觸發(fā)創(chuàng)新。
在收到使用請求并完成評估后,Graphcore工程團隊會和商業(yè)客戶、大學(xué)和研究者一起制定開發(fā)計劃和使用周期,并全程提供技術(shù)咨詢和支持。
Graphcore IPU開發(fā)者云使用了金山云提供的托管服務(wù),金山云獨特靈活的云物理機服務(wù)可以使Graphcore布置多種機型,目前已上線IPU PCIe卡配置完成的浪潮NF5568M5服務(wù)器和戴爾DSS8440服務(wù)器。如使用者有本地測試需求,金山云還會將機器運送到使用者本地配合測試,之后再返還數(shù)據(jù)中心。這為使用IPU的開發(fā)者提供了極高的靈活度、極大的創(chuàng)新空間和很好的本地技術(shù)支持。
金山云合伙人劉濤先生表示:“很高興Graphcore IPU開發(fā)者云入駐金山云,期望看到越來越多的開發(fā)者在IPU開發(fā)者云上實現(xiàn)AI模型加速創(chuàng)新。金山云將和Graphcore共同為廣大開發(fā)者提供助力,推動AI應(yīng)用的產(chǎn)業(yè)化落地?!?/p>
IPU開發(fā)者云適用于先進和復(fù)雜的AI模型的訓(xùn)練和推理,按照場景大致分為五類:
除了上述模型,IPU還非常適合在稀疏化的應(yīng)用場景里進行前沿探索。相關(guān)Benchmark請參考:graphcore.ai/benchmarks。
為了更好地賦能中國AI創(chuàng)新者,配合開發(fā)者云,Graphcore的創(chuàng)新社區(qū)現(xiàn)已全面正式上線,社區(qū)平臺包含微信、知乎、微博以及Graphcore即將上線的中文創(chuàng)新社區(qū)網(wǎng)站。創(chuàng)新者們可以在自己常用的社交平臺上輕松向Graphcore全球的科學(xué)家提問,獲取IPU硬件產(chǎn)品與軟件更新的最新資訊、閱讀深度技術(shù)文章、并與其他創(chuàng)新者們一起交流成長。
“在中國建立IPU開發(fā)者云,是Graphcore對于中國創(chuàng)新社區(qū)的承諾。Graphcore積極擁抱中國的AI生態(tài)系統(tǒng),通過IPU開發(fā)者云的免費使用和源源不斷的知識輸出,賦能尖端AI創(chuàng)新者,從而將中國最具有創(chuàng)新能力和求知精神的機器智能創(chuàng)新者們匯聚在一起,共同在社區(qū)中探索與收獲。”Graphcore高級副總裁兼中國區(qū)總經(jīng)理盧濤表示。
Graphcore聯(lián)合創(chuàng)始人兼CEO Nigel Toon表示:“Graphcore非常專注于中國市場。機器智能方面的許多新突破將非常適用于中國客戶和研究機構(gòu)。通過為進行AI研究的創(chuàng)新者免費提供云計算中的IPU支持以及運營在中國的創(chuàng)新社區(qū),我們可以支持中國最具創(chuàng)新精神的人才解決世界上最棘手的AI問題?!?/p>