|
 【產(chǎn)通社,12月18日訊】“石頭-剪刀-布”是一種心理游戲,通常是反向心理,也是一種機會。如果一臺電腦能夠很好地理解你,每次都能贏呢?北海道大學(xué)(Hokkaido University)和TDK公司(以盒式磁帶聞名)合作,設(shè)計了一種可以做到這一點的芯片。 好吧,芯片無法讀取你的想法。它使用放置在拇指上的加速度傳感器來測量你的動作,并學(xué)習(xí)哪些動作代表布、剪刀或石頭。令人驚奇的是,一旦它對你的特定手勢進行了訓(xùn)練,芯片就可以運行計算,預(yù)測你在說“射擊”的時間內(nèi)會做什么,從而實時擊敗你。 這一壯舉背后的技術(shù)被稱為儲池計算(reservoir computing),這是一種機器學(xué)習(xí)方法,它使用復(fù)雜的動態(tài)系統(tǒng)從時間序列數(shù)據(jù)中提取有意義的特征。儲池計算的概念可以追溯到20世紀(jì)90年代。隨著人工智能(AI)的發(fā)展,由于其相對較低的功耗要求及其快速訓(xùn)練和推理的潛力,人們對儲池計算重新產(chǎn)生了興趣。 TDK部門負(fù)責(zé)人兼高級經(jīng)理Tomoyuki Sasaki表示,研究團隊將功耗視為目標(biāo)!暗诙䝼目標(biāo)是延遲問題。就邊緣人工智能而言,延遲是一個巨大的問題! 為了最大限度地減少設(shè)置的能量和延遲,該團隊開發(fā)了一種模擬儲池計算電路的CMOS硬件實現(xiàn)。該團隊于10月在日本千葉舉行的先進技術(shù)聯(lián)合展覽會議上展示了他們的演示,并在加利福尼亞州圣地亞哥舉行的重啟計算國際會議上發(fā)表了他們的論文。 什么是儲池計算? 與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)(當(dāng)今大部分人工智能的基礎(chǔ)架構(gòu))相比,儲池計算機是最容易理解的。 神經(jīng)網(wǎng)絡(luò)由多層排列的人工神經(jīng)元組成。每一層都可以被視為一列神經(jīng)元,列中的每個神經(jīng)元都通過加權(quán)人工突觸連接到下一列中的所有神經(jīng)元。數(shù)據(jù)進入第一列,并從左向右逐層傳播,直到最后一列。 在訓(xùn)練過程中,將最后一層的輸出與正確答案進行比較,并使用這些信息來調(diào)整所有突觸中的權(quán)重,這次是在一個稱為反向傳播的過程中逐層向后工作。 此設(shè)置有兩個重要功能。首先,數(shù)據(jù)只會向前傳播。沒有循環(huán)。其次,在訓(xùn)練過程中,連接任何一對神經(jīng)元的所有權(quán)重都會被調(diào)整。事實證明,這種架構(gòu)非常有效和靈活,但成本也很高;調(diào)整有時最終會達到數(shù)十億的權(quán)重需要時間和力量。 儲池計算也是用人工神經(jīng)元和突觸構(gòu)建的,但它們的排列方式根本不同。首先,沒有層次——神經(jīng)元以一種復(fù)雜的、網(wǎng)狀的方式與其他神經(jīng)元相連,有很多循環(huán)。這為網(wǎng)絡(luò)注入了一種記憶,在這種記憶中,特定的輸入可以不斷返回。 其次,儲池內(nèi)的連接是固定的。數(shù)據(jù)進入儲池,通過復(fù)雜的結(jié)構(gòu)傳播,然后通過一組最終的突觸連接到輸出。只有最后一組突觸及其權(quán)重在訓(xùn)練中得到了調(diào)整。這種方法大大簡化了訓(xùn)練過程,完全消除了反向傳播的需要。 考慮到儲池是固定的,并且唯一訓(xùn)練的部分是從儲池到所需輸出的最終“翻譯”層,這些網(wǎng)絡(luò)能夠發(fā)揮作用似乎是一個奇跡。然而,對于某些任務(wù),它們已被證明是非常有效的。 “它們絕不是機器學(xué)習(xí)工具箱中使用的最佳模型,”加州大學(xué)圣巴巴拉分校計算機科學(xué)助理教授Sanjukta Krishnagopal說,他沒有參與這項工作。但對于預(yù)測行為混亂的事物的時間演變,例如天氣,它們是這項工作的正確工具。“這就是儲池計算的閃光點。” 原因是儲池本身有點混亂。Krishnagopal說:“你的儲池通常在所謂的混沌邊緣運行,這意味著它可以用一個非常小的神經(jīng)網(wǎng)絡(luò)非常簡單地表示大量可能的狀態(tài)!。 物理儲池計算機 儲池內(nèi)的人工突觸是固定的,不需要發(fā)生反向傳播。這為儲池實施方式留下了很大自由度。為了建造物理儲池,人們使用了各種各樣的介質(zhì),包括光、MEMS設(shè)備和我個人最喜歡的水桶。 然而,北海道大學(xué)和TDK的團隊希望創(chuàng)造一種可用于邊緣設(shè)備的CMOS兼容芯片。為了實現(xiàn)人工神經(jīng)元,該團隊設(shè)計了一個模擬電路節(jié)點。每個節(jié)點由三個組件組成:非線性電阻器、基于MOS電容器的存儲元件和緩沖放大器。他們的芯片由四個核心組成,每個核心由121個這樣的節(jié)點組成。 在儲池所需的復(fù)雜、反復(fù)出現(xiàn)的模式中,將節(jié)點連接起來是困難的。為了降低復(fù)雜性,該團隊決定采用一種所謂的簡單循環(huán)儲池,所有節(jié)點連接在一個大回路中。先前的工作表明,即使這種相對簡單的配置也能夠模擬各種復(fù)雜的動態(tài)。 作者說,使用這種設(shè)計,該團隊能夠構(gòu)建一個每個核心僅消耗20微瓦功率的芯片,即總功耗為80微瓦,遠(yuǎn)低于其他CMOS兼容的物理儲池計算設(shè)計。 預(yù)測未來 除了在"石頭-剪刀"上擊敗人類,儲池計算芯片還可以預(yù)測許多不同領(lǐng)域時間序列的下一步。如果今天發(fā)生的事情受到昨天數(shù)據(jù)或其他過去數(shù)據(jù)的影響,它就可以預(yù)測結(jié)果。 該團隊展示了該芯片在多項任務(wù)上的能力,包括預(yù)測一個著名的混沌系統(tǒng)(稱為邏輯圖)的行為。該團隊還將該設(shè)備用于混沌的原型現(xiàn)實世界示例:天氣。對于這兩個測試用例,芯片能夠以驚人的準(zhǔn)確性預(yù)測下一步。 然而,預(yù)測的準(zhǔn)確性并不是主要賣點。該芯片提供的極低功耗和低延遲可以實現(xiàn)一系列新的應(yīng)用,例如在可穿戴設(shè)備和其他邊緣設(shè)備上的實時學(xué)習(xí)。 Sasaki說:“我認(rèn)為這一預(yù)測實際上與目前的技術(shù)相同!薄叭欢,功耗、運行速度可能比目前的人工智能技術(shù)好10倍。這是一個很大的區(qū)別!辈樵冞M一步信息,請訪問官方網(wǎng)站https://spectrum.ieee.org/analog-reservoir-computer?utm_source=homepage&utm_medium=hero&utm_campaign=hero-2025-12-16&utm_content=hero3。(鐠元素, 產(chǎn)通數(shù)造)
|