以這片類腦芯片為基礎,研究團隊實現(xiàn)了高度靈敏,并且能聽懂自然語言指令的自行車。
而最新發(fā)表的研究,則是為了解決類腦計算系統(tǒng)的“基礎設施架構(gòu)”問題。
在名為A system hierarchy for brain-inspired computing的論文中,施路平教授團隊提出了一種全新的、突破性的類腦計算通用系統(tǒng)層次結(jié)構(gòu)。
這項研究中提出的神經(jīng)形態(tài)完備性概念,這是一種更具適應性、更廣泛的類腦計算完備性的定義,它降低了系統(tǒng)對神經(jīng)形態(tài)硬件的完備性要求,提高了不同硬件和軟件設計之間的兼容性。
這意味著這種專門為類腦計算任務設計的計算機結(jié)構(gòu),具備了和我們熟知的馮·諾依曼結(jié)構(gòu)計算機相同的能力。
即避免系統(tǒng)中軟件和硬件之間的緊密關聯(lián),實現(xiàn)了高效、兼容和獨立的進程。不同的編程語言可通過編譯器處理變?yōu)榭晒C器執(zhí)行的指令。
這一點是十分重要關鍵的,因為以往,在馮·諾依曼結(jié)構(gòu)計算機上,類腦計算缺乏合適的系統(tǒng)層次結(jié)構(gòu)來支持整體開發(fā),神經(jīng)形態(tài)軟件和硬件之間沒有合適的接口。
一個特定的算法或類腦芯片,需要借助一系列特定的軟件工具才能運行,
這種方法的弊端在于,類腦計算系統(tǒng)(包括應用程序模型、系統(tǒng)軟件和神經(jīng)形態(tài)設備)的各個層被緊密綁定在了一起,影響了軟件和硬件之間的兼容性,降低了類腦計算系統(tǒng)的編程靈活性和開發(fā)效率。
解決這個問題的關鍵,是“神經(jīng)形態(tài)完備性”。
神經(jīng)形態(tài)完備的三層結(jié)構(gòu)
這項研究中提出了神經(jīng)形態(tài)完備性的概念。
這是一種類腦計算完備性的定義,與通用的圖靈完備性類似,定義通用機器和語言的要求。
定義提出,如果一個類腦系統(tǒng)能夠以規(guī)定的準確度執(zhí)行一組給定的基本操作,那么它就是神經(jīng)形態(tài)完備的。
這與圖靈完備性有所不同。
在圖靈完備性中,只有當一個系統(tǒng)為一組給定的基本運算提供了一個精確且等價的結(jié)果時,才可以將其定義為完備。
而在所提出的神經(jīng)形態(tài)完備框架中的基本運算,包括兩個已知的加權(quán)和運算,以及元素-整流線性運算,這使得硬件系統(tǒng)能夠同時支持脈沖和非脈沖人工神經(jīng)網(wǎng)絡。
新定義降低了系統(tǒng)對神經(jīng)形態(tài)硬件的完備性要求,使得不同硬件和軟件設計之間的兼容性更易實現(xiàn)。
新的層次結(jié)構(gòu)的一個重要特點是,提出了完整的連續(xù)性,根據(jù)類腦系統(tǒng)能夠執(zhí)行基本操作的精度,接受不同級別的算法性能。
完整的連續(xù)性還允許算法的不同實現(xiàn)路徑在同一硬件上運行。例如,探索如何權(quán)衡算法精度與芯片尺寸,以降低功耗。
為滿足神經(jīng)形態(tài)完備性,團隊提出一種全新的系統(tǒng)層次結(jié)構(gòu),這一結(jié)構(gòu)包括軟件、硬件和編譯三個層次:
其中,軟件層指的是編程語言或框架以及建立在它們之上的算法或模型。在這個層次上,團隊提出了一種統(tǒng)一的、通用的軟件抽象模式——POG 圖(programming operator graph)——以適應各種類腦算法和模型設計。
POG 由統(tǒng)一的描述方法和事件驅(qū)動的并行程序執(zhí)行模型組成,該模型集成了存儲和處理,描述了什么是類腦程序,并定義了如何執(zhí)行。由于 POG 是圖靈完備的,它最大程度地支持各種應用程序、編程語言和框架。
硬件方面,則包括所有類腦芯片和架構(gòu)模型。團隊設計了抽象神經(jīng)形態(tài)體系結(jié)構(gòu)(ANA)作為硬件抽象,包括一個 EPG 圖(execution primitive graph),作為上層的接口來描述它可以執(zhí)行的程序。
EPG 具有控制、流、數(shù)據(jù)流的混合表示,滿足它對不同硬件的適應性。
編譯層,是將程序轉(zhuǎn)換為硬件支持的等效形式的中間層。為實現(xiàn)可行性,研究人員提出了一套被主流類腦芯片廣泛支持的基本硬件執(zhí)行原語(hardware execution primitives)。
類腦計算領域的重要一步
近年來,隨著摩爾定律逐漸失效,馮·諾依曼結(jié)構(gòu)帶來的局限日益明顯,存儲墻、功耗墻、智能提升等問題,讓當前計算機發(fā)展面臨重大挑戰(zhàn)。
從人類大腦中汲取靈感的類腦計算或神經(jīng)形態(tài)計算,是一種有潛力打破馮·諾伊曼瓶頸并推動下一波計算機工程的計算模型和架構(gòu)。
而Nature給這項研究的評語是“a welcome step”。
比較實現(xiàn)相同算法的等效版本的不同硬件平臺,以及在同一硬件上實現(xiàn)的不同算法的比較。
這些都是類腦結(jié)構(gòu)的有效基準測試的關鍵。
新結(jié)構(gòu)的另一個優(yōu)勢是它可以將類腦算法和相應的硬件開發(fā)分流。
類腦算法在不斷實現(xiàn)強大功能的同時,算法的規(guī)模和復雜性將需要隨著時間的推移而增加。因此這種分流將有助于研究人員專注于特定方向,避免復雜的端到端解決方案。
這項研究是類腦計算領域的重要一步。
盡管現(xiàn)在,人類大腦本身是否符合“神經(jīng)形態(tài)完備”還有待觀察,但這項研究仍然讓類腦計算實用化,以及可能在此基礎上發(fā)展的通用人工智能離我們更近了。
進擊的清華類腦計算中心
清華大學類腦計算中心,由施路平教授2013年3月全職入職清華大學后組建,從基礎理論、類腦計算系統(tǒng)芯片和軟件系統(tǒng)全方位進行類腦計算研究。
去年 8 月,施路平團隊的“天機芯”登上《自然》雜志封面 加鏈接,這是世界上首款異構(gòu)融合類腦芯片,并通過自動駕駛自行車成功驗證了通用智能的可行性。
團隊很早就著手類腦計算的商業(yè)落地,2018年,北京靈汐科技作為清華大學類腦計算中心科技成果轉(zhuǎn)化項目正式成立,施路平教授是聯(lián)合創(chuàng)始人。
參考鏈接
https://www.nature.com/articles/d41586-020-02829-w
論文地址
https://www.nature.com/articles/s41586-020-2782-y