以這片類(lèi)腦芯片為基礎(chǔ),研究團(tuán)隊(duì)實(shí)現(xiàn)了高度靈敏,并且能聽(tīng)懂自然語(yǔ)言指令的自行車(chē)。

而最新發(fā)表的研究,則是為了解決類(lèi)腦計(jì)算系統(tǒng)的“基礎(chǔ)設(shè)施架構(gòu)”問(wèn)題。

在名為A system hierarchy for brain-inspired computing的論文中,施路平教授團(tuán)隊(duì)提出了一種全新的、突破性的類(lèi)腦計(jì)算通用系統(tǒng)層次結(jié)構(gòu)

這項(xiàng)研究中提出的神經(jīng)形態(tài)完備性概念,這是一種更具適應(yīng)性、更廣泛的類(lèi)腦計(jì)算完備性的定義,它降低了系統(tǒng)對(duì)神經(jīng)形態(tài)硬件的完備性要求,提高了不同硬件和軟件設(shè)計(jì)之間的兼容性。

這意味著這種專門(mén)為類(lèi)腦計(jì)算任務(wù)設(shè)計(jì)的計(jì)算機(jī)結(jié)構(gòu),具備了和我們熟知的馮·諾依曼結(jié)構(gòu)計(jì)算機(jī)相同的能力。

即避免系統(tǒng)中軟件和硬件之間的緊密關(guān)聯(lián),實(shí)現(xiàn)了高效、兼容和獨(dú)立的進(jìn)程。不同的編程語(yǔ)言可通過(guò)編譯器處理變?yōu)榭晒C(jī)器執(zhí)行的指令。

這一點(diǎn)是十分重要關(guān)鍵的,因?yàn)橐酝隈T·諾依曼結(jié)構(gòu)計(jì)算機(jī)上,類(lèi)腦計(jì)算缺乏合適的系統(tǒng)層次結(jié)構(gòu)來(lái)支持整體開(kāi)發(fā),神經(jīng)形態(tài)軟件和硬件之間沒(méi)有合適的接口。

一個(gè)特定的算法或類(lèi)腦芯片,需要借助一系列特定的軟件工具才能運(yùn)行,

這種方法的弊端在于,類(lèi)腦計(jì)算系統(tǒng)(包括應(yīng)用程序模型、系統(tǒng)軟件和神經(jīng)形態(tài)設(shè)備)的各個(gè)層被緊密綁定在了一起,影響了軟件和硬件之間的兼容性,降低了類(lèi)腦計(jì)算系統(tǒng)的編程靈活性和開(kāi)發(fā)效率。

解決這個(gè)問(wèn)題的關(guān)鍵,是“神經(jīng)形態(tài)完備性”。

神經(jīng)形態(tài)完備的三層結(jié)構(gòu)

這項(xiàng)研究中提出了神經(jīng)形態(tài)完備性的概念。

這是一種類(lèi)腦計(jì)算完備性的定義,與通用的圖靈完備性類(lèi)似,定義通用機(jī)器和語(yǔ)言的要求。

定義提出,如果一個(gè)類(lèi)腦系統(tǒng)能夠以規(guī)定的準(zhǔn)確度執(zhí)行一組給定的基本操作,那么它就是神經(jīng)形態(tài)完備的。

這與圖靈完備性有所不同。

在圖靈完備性中,只有當(dāng)一個(gè)系統(tǒng)為一組給定的基本運(yùn)算提供了一個(gè)精確且等價(jià)的結(jié)果時(shí),才可以將其定義為完備。

而在所提出的神經(jīng)形態(tài)完備框架中的基本運(yùn)算,包括兩個(gè)已知的加權(quán)和運(yùn)算,以及元素-整流線性運(yùn)算,這使得硬件系統(tǒng)能夠同時(shí)支持脈沖和非脈沖人工神經(jīng)網(wǎng)絡(luò)。

新定義降低了系統(tǒng)對(duì)神經(jīng)形態(tài)硬件的完備性要求,使得不同硬件和軟件設(shè)計(jì)之間的兼容性更易實(shí)現(xiàn)。

新的層次結(jié)構(gòu)的一個(gè)重要特點(diǎn)是,提出了完整的連續(xù)性,根據(jù)類(lèi)腦系統(tǒng)能夠執(zhí)行基本操作的精度,接受不同級(jí)別的算法性能。

完整的連續(xù)性還允許算法的不同實(shí)現(xiàn)路徑在同一硬件上運(yùn)行。例如,探索如何權(quán)衡算法精度與芯片尺寸,以降低功耗。

為滿足神經(jīng)形態(tài)完備性,團(tuán)隊(duì)提出一種全新的系統(tǒng)層次結(jié)構(gòu),這一結(jié)構(gòu)包括軟件、硬件和編譯三個(gè)層次:

其中,軟件層指的是編程語(yǔ)言或框架以及建立在它們之上的算法或模型。在這個(gè)層次上,團(tuán)隊(duì)提出了一種統(tǒng)一的、通用的軟件抽象模式——POG 圖(programming operator graph)——以適應(yīng)各種類(lèi)腦算法和模型設(shè)計(jì)。

POG 由統(tǒng)一的描述方法和事件驅(qū)動(dòng)的并行程序執(zhí)行模型組成,該模型集成了存儲(chǔ)和處理,描述了什么是類(lèi)腦程序,并定義了如何執(zhí)行。由于 POG 是圖靈完備的,它最大程度地支持各種應(yīng)用程序、編程語(yǔ)言和框架。

硬件方面,則包括所有類(lèi)腦芯片和架構(gòu)模型。團(tuán)隊(duì)設(shè)計(jì)了抽象神經(jīng)形態(tài)體系結(jié)構(gòu)(ANA)作為硬件抽象,包括一個(gè) EPG 圖(execution primitive graph),作為上層的接口來(lái)描述它可以執(zhí)行的程序。

EPG 具有控制、流、數(shù)據(jù)流的混合表示,滿足它對(duì)不同硬件的適應(yīng)性。

編譯層,是將程序轉(zhuǎn)換為硬件支持的等效形式的中間層。為實(shí)現(xiàn)可行性,研究人員提出了一套被主流類(lèi)腦芯片廣泛支持的基本硬件執(zhí)行原語(yǔ)(hardware execution primitives)。

類(lèi)腦計(jì)算領(lǐng)域的重要一步

近年來(lái),隨著摩爾定律逐漸失效,馮·諾依曼結(jié)構(gòu)帶來(lái)的局限日益明顯,存儲(chǔ)墻、功耗墻、智能提升等問(wèn)題,讓當(dāng)前計(jì)算機(jī)發(fā)展面臨重大挑戰(zhàn)。

從人類(lèi)大腦中汲取靈感的類(lèi)腦計(jì)算或神經(jīng)形態(tài)計(jì)算,是一種有潛力打破馮·諾伊曼瓶頸并推動(dòng)下一波計(jì)算機(jī)工程的計(jì)算模型和架構(gòu)。

而Nature給這項(xiàng)研究的評(píng)語(yǔ)是“a welcome step”。

比較實(shí)現(xiàn)相同算法的等效版本的不同硬件平臺(tái)以及在同一硬件上實(shí)現(xiàn)的不同算法的比較。

這些都是類(lèi)腦結(jié)構(gòu)的有效基準(zhǔn)測(cè)試的關(guān)鍵。

新結(jié)構(gòu)的另一個(gè)優(yōu)勢(shì)是它可以將類(lèi)腦算法和相應(yīng)的硬件開(kāi)發(fā)分流。

類(lèi)腦算法在不斷實(shí)現(xiàn)強(qiáng)大功能的同時(shí),算法的規(guī)模和復(fù)雜性將需要隨著時(shí)間的推移而增加。因此這種分流將有助于研究人員專注于特定方向,避免復(fù)雜的端到端解決方案。

這項(xiàng)研究是類(lèi)腦計(jì)算領(lǐng)域的重要一步。

盡管現(xiàn)在,人類(lèi)大腦本身是否符合“神經(jīng)形態(tài)完備”還有待觀察,但這項(xiàng)研究仍然讓類(lèi)腦計(jì)算實(shí)用化,以及可能在此基礎(chǔ)上發(fā)展的通用人工智能離我們更近了。

進(jìn)擊的清華類(lèi)腦計(jì)算中心

清華大學(xué)類(lèi)腦計(jì)算中心,由施路平教授2013年3月全職入職清華大學(xué)后組建,從基礎(chǔ)理論、類(lèi)腦計(jì)算系統(tǒng)芯片和軟件系統(tǒng)全方位進(jìn)行類(lèi)腦計(jì)算研究。

去年 8 月,施路平團(tuán)隊(duì)的“天機(jī)芯”登上《自然》雜志封面   加鏈接,這是世界上首款異構(gòu)融合類(lèi)腦芯片,并通過(guò)自動(dòng)駕駛自行車(chē)成功驗(yàn)證了通用智能的可行性。

團(tuán)隊(duì)很早就著手類(lèi)腦計(jì)算的商業(yè)落地,2018年,北京靈汐科技作為清華大學(xué)類(lèi)腦計(jì)算中心科技成果轉(zhuǎn)化項(xiàng)目正式成立,施路平教授是聯(lián)合創(chuàng)始人。

參考鏈接
https://www.nature.com/articles/d41586-020-02829-w

論文地址
https://www.nature.com/articles/s41586-020-2782-y

分享到

zhangnn

相關(guān)推薦