日前,北京理工大學(xué)AETAS實驗室聯(lián)合先進類腦智能及大算力平臺公司優(yōu)智創(chuàng)芯,并與清華大學(xué)和北京師范大學(xué)研究團隊共同開源發(fā)布了一種創(chuàng)新的低功耗脈沖神經(jīng)網(wǎng)絡(luò)類腦仿真訓(xùn)練框架——SNNGrow生長。這是國際上繼英特爾Lava類腦訓(xùn)練框架和國內(nèi)鵬城實驗室SpikingJelly類腦框架發(fā)布以后,又一個類腦仿真訓(xùn)練框架,該框架已實現(xiàn)全面開源,旨在推動類腦智能技術(shù)在產(chǎn)業(yè)界的廣泛應(yīng)用。
在人工智能領(lǐng)域,目前大模型正當(dāng)其時,但是能耗和算力制約著大模型的更高維度的發(fā)展,如何低能耗地構(gòu)建下一代大模型成為關(guān)鍵。類腦智能通過模擬生物大腦的工作方式,為實現(xiàn)低功耗、低成本且能夠?qū)崟r在線學(xué)習(xí)的人工智能系統(tǒng)提供了一種革命性的方案。脈沖神經(jīng)網(wǎng)絡(luò)作為類腦智能的核心計算架構(gòu),其工作原理更接近生物神經(jīng)元的信號傳遞,以脈沖形式的信號和時間序列信息進行通訊,支持異步且稀疏的事件驅(qū)動方式。然而,盡管脈沖神經(jīng)網(wǎng)絡(luò)在理論上具有顯著的低能耗優(yōu)勢,現(xiàn)有的實現(xiàn)框架往往無法充分利用其類腦稀疏計算的特性,使得在實際應(yīng)用中達到理想的能效比仍面臨挑戰(zhàn)。
SNNGrow生長致力于打破這一瓶頸,通過基于深入研究脈沖神經(jīng)網(wǎng)絡(luò)和類腦稀疏計算特性的成果,利用自研的稀疏脈沖矩陣計算技術(shù),SNNGrow生長能夠顯著降低運算過程中的能耗,同時保持高效的計算性能。稀疏脈沖矩陣計算技術(shù)不僅提高了脈沖神經(jīng)網(wǎng)絡(luò)的能效比,也為實際應(yīng)用中的類腦計算提供了可行性。此外,通過將Pytorch集成為前端接口,SNNGrow生長極大地降低了開發(fā)者的入門門檻,使得廣大研究者和開發(fā)者能夠輕松地利用這一框架進行脈沖神經(jīng)網(wǎng)絡(luò)的研究和開發(fā)工作。這一創(chuàng)新不僅加速了類腦智能技術(shù)的研究進展,也為其在各行各業(yè)的應(yīng)用提供了強大的顛覆性動力。SNNGrow生長現(xiàn)已支持脈沖神經(jīng)網(wǎng)絡(luò)建模、訓(xùn)練和推理。
技術(shù)原理
框架生態(tài)位
據(jù)了解,SNNGrow生長正處于快速發(fā)展階段,未來計劃實現(xiàn)對千億級類腦神經(jīng)元的仿真計算,并促進軟硬件一體化應(yīng)用的發(fā)展。該項目科研負責(zé)人北京理工大學(xué)計算機學(xué)院副教授楊旭說:“我們期待這一框架能夠深化神經(jīng)科學(xué)與人工智能領(lǐng)域的融合,促進兩個領(lǐng)域之間的交流與合作,共同探索類腦智能的無限可能。”
SNNGrow生長采用Apache2.0開源協(xié)議
主要鏈接:
Github鏈接:https://github.com/snngrow
文檔鏈接:https://snngrow.readthedocs.io/
開源鏈接:https://snngrow.opensnn.com
