神經(jīng)網(wǎng)絡(luò)可以說是 AI 熱潮中最璀璨的一顆明珠，它可以處理大量的數(shù)據(jù)，也可以識別語音或者圖像，而且都可以達到幾乎完美的精度。
但目前神經(jīng)網(wǎng)絡(luò)的問題在于：這種基于人腦結(jié)構(gòu)的網(wǎng)絡(luò)模型是構(gòu)建在軟件而非硬件上的，而軟件在傳統(tǒng)的計算機芯片上運行。換句話說，相對緩慢的傳統(tǒng)硬件架構(gòu)限制了神經(jīng)網(wǎng)絡(luò)的發(fā)揮。
圖丨筆跡數(shù)據(jù)集
而 IBM 研究表明，將神經(jīng)網(wǎng)絡(luò)的關(guān)鍵部分直接構(gòu)建在硅晶體上可以將效率提升百倍。這種直接將神經(jīng)網(wǎng)絡(luò)包含在硬件上的芯片在未來幾年或?qū)O大促進機器學(xué)習(xí)的發(fā)展。
與寫在軟件里的神經(jīng)網(wǎng)絡(luò)類似，IBM 芯片亦是模仿生物大腦中連接各個神經(jīng)元的突觸，通過調(diào)節(jié)突觸連接的強度來讓神經(jīng)網(wǎng)絡(luò)進行學(xué)習(xí)。在生物大腦中，神經(jīng)元間的連接會隨著時間生長或消亡，這正是學(xué)習(xí)的過程。這個過程很容易在軟件中實現(xiàn)，但難以在硬件中實現(xiàn)。而 IBM 芯片的出現(xiàn)改變了這一現(xiàn)狀。
在《自然》雜志發(fā)表的一篇研究論文中，IBM 研究人員展示了微電子突觸。他們的研究靈感來自神經(jīng)科學(xué)，通過使用長期和短期兩種突觸，長期突觸用于記憶，短期突觸用于計算。美國科學(xué)和技術(shù)研究院的研究員 Michael Schneider 目前從事受神經(jīng)科學(xué)啟發(fā)的計算機硬件的研究。他說這種雙類突觸的方法解決了一些在硅晶體中構(gòu)建神經(jīng)網(wǎng)絡(luò)的關(guān)鍵問題，其中最值得注意的是精度過低的問題，正是這些問題過去耗費了研究者們大量的時間和精力。
研究人員測試了用兩個簡單的圖像識別任務(wù)來構(gòu)建的神經(jīng)網(wǎng)絡(luò)，一個是手寫文字識別，另一個是彩色圖片分類。測試結(jié)果表明硬件神經(jīng)網(wǎng)絡(luò)的精度與軟件神經(jīng)網(wǎng)絡(luò)相當(dāng)，但其耗能僅為軟件神經(jīng)網(wǎng)絡(luò)的百分之一。
這項研究發(fā)現(xiàn)的意義并不只在 AI 技術(shù)而已。如果這項研究最終能用于生產(chǎn)，意味 IBM 下對了賭注。盡管目前 IBM 不銷售計算機芯片，但他們一直在投資研究計算機硬件，試圖發(fā)明出全新微電子元件，并推動公司進一步的發(fā)展。這項神經(jīng)網(wǎng)絡(luò)的新技術(shù)或許就是第一步，它使機器學(xué)習(xí)更加高效，并且更易于部署在智能手機等小型設(shè)備上。
Schneider 表示：“能耗有一百倍的優(yōu)化，對于全連接層的訓(xùn)練速度也快一百倍，這樣的目標(biāo)當(dāng)然值得進一步的努力。”然而，并非每個人都買這項研究發(fā)現(xiàn)的賬。斯坦福大學(xué)計算機體系結(jié)構(gòu)研究員 Kwabena Boahen 說，這項研究讓他想起一種名為“憶阻器”的可調(diào)式晶體管，這種晶體管有點類似于突觸，曾幾何時也有鋪天蓋地的宣傳和熱度，然而十多年來這項技術(shù)卻無甚發(fā)展。
IBM 芯片的設(shè)計相對笨重，它由五個晶體管和三個其他組件組成，如果是普通芯片就只會有一個晶體管。另外，迄今為止該系統(tǒng)的某些部分僅進行了仿真測試，IBM 仍然需要制作一個完整的芯片并進行實際測試才行。雖然有一些問題亟待解決，但對于實現(xiàn)“AI 芯片計算機”來說，這項研究仍然可能是重要的一步，也是受生物學(xué)啟發(fā)的一步。
編輯：火爆麻雀 校審：XHR
參考：https://www.technologyreview.com/s/611390/ai-could-get-100-times-more-energy-efficient-with-ibms-new-artificial-synapses/