想象有一天,,機器可以像人一樣思考和處理問題,,這對于21世紀的我們早已不是一個陌生的話題,。通用人工智能的夢想鞭策著人類不斷探索腦科學(xué)的奧秘與用機器模擬生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和信息加工的潛力,,而后者就是我們所說的類腦計算,,也叫神經(jīng)形態(tài)計算,。
目前的類腦計算研究尚處于起步階段,,國際上還沒有形成公認的技術(shù)標(biāo)準(zhǔn)與方案,。10月14日,,清華大學(xué)計算機系張悠慧團隊和精儀系施路平團隊與合作者在世界頂級期刊《自然》發(fā)表題為“一種類腦計算系統(tǒng)層次結(jié)構(gòu)”的論文,,填補了類腦計算系統(tǒng)領(lǐng)域完備性理論與相應(yīng)的類腦計算系統(tǒng)層次結(jié)構(gòu)方面的空白。這是一年多來,,清華大學(xué)在類腦計算領(lǐng)域繼“天機芯”和“多陣列憶阻器存算一體系統(tǒng)”之后于《自然》正刊發(fā)表的第三篇成果,,也是計算機系以第一完成單位/通訊單位在《自然》發(fā)表的首篇論文。
從傳統(tǒng)到創(chuàng)新,,用系統(tǒng)的眼光重新審視類腦計算
如果說,,“圖靈完備性”是通用計算機領(lǐng)域的“圭臬”,那么“類腦計算完備性”則能夠為類腦計算系統(tǒng)領(lǐng)域的發(fā)展提供一個“準(zhǔn)繩”,。
通用計算領(lǐng)域有兩個著名概念,,一個是“圖靈完備性”,另一個是“馮·諾依曼體系結(jié)構(gòu)”,。對于前者,,原則上一個圖靈完備的系統(tǒng)能夠用來解決任何計算性的問題,符合圖靈完備的編程語言編寫的任何程序都可以轉(zhuǎn)換為任意圖靈完備的處理器上的等價指令序列,因此在設(shè)計通用計算軟硬件時需符合圖靈完備的要求,;后者則是通用計算機運作的體系結(jié)構(gòu),,具有存儲部件與計算部件分離、程序與數(shù)據(jù)統(tǒng)一存儲等特性,。圖靈完備性和馮·諾依曼體系結(jié)構(gòu)使得通用計算領(lǐng)域在軟件層,、編譯層和硬件層都有了統(tǒng)一的范式,使不同層次各自發(fā)展而又可以無縫兼容,。
然而,,現(xiàn)有類腦計算系統(tǒng)研究大多聚焦于具體的芯片、工具鏈,、應(yīng)用和算法的創(chuàng)新實現(xiàn),,而忽略了從宏觀和抽象層面上對計算完備性和體系結(jié)構(gòu)的思考。類腦計算軟硬件間的高度耦合阻礙了它們獨立發(fā)展的同時互相兼容的可能性,。如何突破這一瓶頸,,擴展類腦計算系統(tǒng)的應(yīng)用場景,成了團隊下決心要解決的重點問題,。
“通用計算領(lǐng)域的圖靈完備性和馮·諾依曼體系結(jié)構(gòu)都是非?;A(chǔ)、大家也非常熟悉的概念,,以至于很多人都不會意識到,,對于新興的類腦計算系統(tǒng)領(lǐng)域,這是一個需要首先解決的問題,。” 計算機系研究員張悠慧說,。
從傳統(tǒng)通用計算機的設(shè)計哲學(xué)和方法論中汲取靈感和經(jīng)驗,,團隊針對類腦計算不像針對通用計算一樣注重每一步計算過程的精確,他們更注重結(jié)果擬合的特性,,提出了對計算過程和精度約束更低的類腦計算完備性概念,,并且設(shè)計了相應(yīng)的類腦計算機層次結(jié)構(gòu):圖靈完備的軟件模型,類腦計算完備的硬件體系結(jié)構(gòu),,以及位于兩者之間的編譯層,。通過構(gòu)造性轉(zhuǎn)化算法,任意圖靈可計算函數(shù)都可以轉(zhuǎn)換為類腦計算完備硬件上的模型,。這意味著類腦計算系統(tǒng)也可以支持通用計算,,極大地擴展了類腦計算系統(tǒng)的應(yīng)用領(lǐng)域,也使類腦計算軟硬件各自獨立發(fā)展成為可能,。
明確分工接口,,既能學(xué)科交叉又能“各司其職”
明確類腦計算機層次結(jié)構(gòu),除了希望實現(xiàn)不同層次之間的去耦合,也是希望能為各相關(guān)學(xué)科的研究人員“減負”,,不讓專業(yè)間的知識鴻溝阻礙交叉學(xué)科的順暢發(fā)展,。
類腦計算屬于交叉研究領(lǐng)域,涉及腦科學(xué),、電子,、微電子、計算機,、自動化,、材料以及精密儀器等多個學(xué)科。學(xué)科交叉意味著研究中需要集各科之所長,,但是專業(yè)壁壘卻增加了學(xué)科之間互相理解,、協(xié)同配合的難度。如何讓一個生物學(xué)家不必深入鉆研計算機理論卻依然能理解進而將自己的專業(yè)前沿成果結(jié)合到類腦計算當(dāng)中,。這是交叉研究項目面臨的現(xiàn)實問題,。
《自然》期刊審稿人說,清華大學(xué)團隊的這項研究“使得相關(guān)研究領(lǐng)域間的任務(wù)分工與接口更為清晰,,有利于不同學(xué)科的研究人員專注于其專業(yè)領(lǐng)域,、促進協(xié)同發(fā)展”。
不讓研究人員分心,,專于所長,,推動各個具體學(xué)科領(lǐng)域的技術(shù)突破,才能為類腦計算提供更加堅實的基礎(chǔ)和支持,。
值得一提的是,,從春節(jié)前夕投稿,到8月上旬正式被接收,,論文的兩輪修改都是在疫情期間完成,。整個審稿過程無法在線下交流討論和開展實驗,這對于團隊而言無疑帶來了巨大的挑戰(zhàn),?!暗珡牧硪粋€角度看,因為疫情期間哪兒也去不了,,我們能更加潛心和專一地去做好這一件事,。”張悠慧說,。
研究小組努力克服交流不便,、實驗數(shù)據(jù)處理困難等問題,對文章的實驗設(shè)計做了較大補充與改進,?!耙婚_始審稿人認同我們研究問題的意義,,但是并不理解我們對于研究問題的解決思路,對于是否有必要進行底層的計算理論設(shè)計,,審稿人提出了質(zhì)疑,。”計算機系博士后渠鵬說,,“但是通過對整體行文邏輯,、文章內(nèi)容和原型實驗的反復(fù)斟酌修改,以及對研究思路和質(zhì)疑點的一一反饋,,審稿人最后認同了我們的設(shè)計理念,。”
今年剛畢業(yè)的博士生季宇是完成計算完備性相關(guān)工作的主要成員之一,。因為在科研方面的優(yōu)異表現(xiàn),,他的博士論文也被評為清華大學(xué)優(yōu)秀博士論文。精儀系的張偉豪是文章的共同第一作者,,師從施路平教授,。他提出了能夠充分利用類腦計算完備性的硬件抽象體系結(jié)構(gòu)與映射方法。大家各取所長,,共同搭建起了類腦計算系統(tǒng)的層次結(jié)構(gòu),。
70多頁的反饋文件,一次又一次的討論,、修改,、迭代,見證了團隊一步一步迎難而上的努力,?!爱?dāng)審稿人說我們的研究明確了不同領(lǐng)域的分工和接口,將對類腦計算的交叉研究產(chǎn)生積極作用時,,我真的很受鼓舞,,感覺到自己研究的東西是十分有意義的,也是被類腦計算社區(qū)所認可的,。”渠鵬說,。
厚積薄發(fā),,一步一個腳印地走向通用人工智能的未來
2014年,清華大學(xué)類腦研究中心由7個院系聯(lián)合成立,,為類腦研究這一交叉學(xué)科領(lǐng)域提供了一個良好的交流平臺,,中心主任即為本次研究團隊中的精儀系施路平教授。也正是因為各單位和學(xué)校研究中心的支持,、研究過程匯集了來自各方的智慧力量,,這個小團隊最終做成了類腦計算系統(tǒng)理論與原型構(gòu)建的大項目。
盡管從項目正式啟動到最終發(fā)表不過經(jīng)歷了一年多的時間,但這項成果的產(chǎn)生并不是一蹴而就的,。
在類腦計算系統(tǒng)設(shè)計和編譯技術(shù)上,,團隊就已經(jīng)在過去幾年的不懈研究中打下了堅實的基礎(chǔ)。此前清華大學(xué)在類腦領(lǐng)域所取得的新進展,,也為這次類腦計算完備性和類腦計算系統(tǒng)層次結(jié)構(gòu)的提出提供了技術(shù)和方法上的支持,。從前期分支問題的各個擊破,一步一個腳印,,一點一滴積累,,到最終提出系統(tǒng)的理論框架,一切都是水到渠成,。
未來,,在理論層面,團隊將更關(guān)注類腦應(yīng)用的“神經(jīng)形態(tài)特性”,,并希望最終建立起一個與圖靈完備相對應(yīng)的全新類腦計算理想范式,;在系統(tǒng)層面,團隊將依托計算機系高性能所在超算與芯片方面的雄厚實力,,研發(fā)受腦啟發(fā)的支持通用計算的新型計算機系統(tǒng)結(jié)構(gòu)與芯片,。盡管目標(biāo)遠大,道阻且長,,但他們相信,,只要日積跬步,終將到達千里之外,。至于是否能實現(xiàn)最初的夢想,,時間會給所有的努力一個答案。