【產(chǎn)通社，10月13日訊】清華大學(xué)新聞中心（Tsinghua University News Center）官網(wǎng)消息，人工神經(jīng)網(wǎng)絡(luò)（ANN）在過去十幾年中發(fā)展迅猛。ANN范式最初的主要任務(wù)是通過調(diào)整固定拓?fù)浣Y(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)中的連接權(quán)重來實(shí)現(xiàn)（局部）最優(yōu)的任務(wù)表現(xiàn)。但最近，如何使網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)也能進(jìn)化和自適應(yīng)重構(gòu)這一問題受到了領(lǐng)域里研究者更多的關(guān)注，因?yàn)榫W(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的可進(jìn)化能力被認(rèn)為是人工通用智能的一個(gè)基礎(chǔ)，這是人工智能技術(shù)的長遠(yuǎn)目標(biāo)。效率和可重構(gòu)性之間的沖突成為人工神經(jīng)網(wǎng)絡(luò)技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)可進(jìn)化目標(biāo)的一個(gè)主要障礙。
受ANN技術(shù)發(fā)展趨勢(shì)的引導(dǎo)和憶阻器在ANN應(yīng)用中存在的問題啟發(fā)，清華大學(xué)精密儀器系類腦計(jì)算團(tuán)隊(duì)提出逆向利用憶阻器動(dòng)力學(xué)的內(nèi)在隨機(jī)性實(shí)現(xiàn)復(fù)雜網(wǎng)絡(luò)的按需生成的方法。在該方法中，通過時(shí)間復(fù)用創(chuàng)建多個(gè)虛擬節(jié)點(diǎn)，并利用器件動(dòng)力學(xué)所具有的周期到周期（cycle to cycle，C2C）可變性生成不平凡的網(wǎng)絡(luò)拓?fù)涮卣�，例如小世界特征。�?dāng)用于儲(chǔ)備池計(jì)算時(shí)，與傳統(tǒng)的全連接網(wǎng)絡(luò)儲(chǔ)備池相比，憶阻器復(fù)雜網(wǎng)絡(luò)可以顯著增加儲(chǔ)備池記憶容量并提高性能。這項(xiàng)工作拓展了基于憶阻器的神經(jīng)形態(tài)計(jì)算范式，并有望啟發(fā)對(duì)憶阻器的內(nèi)在物理性質(zhì)（例如動(dòng)力學(xué)和隨機(jī)性）進(jìn)行更多研究和應(yīng)用。該成果近日以“具有內(nèi)在可變性的動(dòng)態(tài)憶阻器內(nèi)的生成復(fù)雜網(wǎng)絡(luò)”（Generative complex networks within a dynamic memristor with intrinsic variability）為題發(fā)表在《自然·通訊》（Nature Communications）上。
該研究所用到的Pd/HfO2/Ta2O5/Ta憶阻器被電激發(fā)后的自發(fā)電阻衰減時(shí)間常數(shù)具有C2C可變性，以此作為時(shí)域虛擬節(jié)點(diǎn)連接的隨機(jī)性來源。依據(jù)C2C隨機(jī)性的統(tǒng)計(jì)規(guī)律設(shè)計(jì)了“probabilistic border and all-or-none connection”（PBAONC）連接生成機(jī)制用于創(chuàng)建復(fù)雜網(wǎng)絡(luò)。該設(shè)計(jì)使得僅在單個(gè)憶阻器內(nèi)通過調(diào)節(jié)時(shí)間復(fù)用時(shí)隙就可以便捷地調(diào)節(jié)復(fù)雜網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)，提高了憶阻器應(yīng)用于ANN時(shí)的效率和可重構(gòu)性。
