【產(chǎn)通社，8月22日訊】中國科學(xué)院（Chinese Academy of Sciences）官網(wǎng)消息，深圳先進(jìn)技術(shù)研究院生物醫(yī)學(xué)與健康工程研究所醫(yī)學(xué)人工智能研究中心副研究員黃明強研究團隊，在基于憶阻器陣列的卷積神經(jīng)網(wǎng)絡(luò)的研究上，近日提出了硬件友好型的隨機自適應(yīng)學(xué)習(xí)方法。區(qū)別于具有復(fù)雜外圍電路設(shè)計的梯度下降方法（SGD）和分段線性（PL）的傳統(tǒng)方法，該方法具有良好的硬件友好特性和高能效特性。相關(guān)研究成果以Hardware-Friendly Stochastic and Adaptive Learning in Memristor Convolutional Neural Networks為題，發(fā)表在Advanced Intelligent Systems上。
神經(jīng)網(wǎng)絡(luò)應(yīng)用于各種人工智能技術(shù)，如計算機視覺和語音識別。然而，在傳統(tǒng)互補金屬氧化物半導(dǎo)體CMOS數(shù)字平臺上運行的人工智能算法，在一定程度上受到摩爾定律即將結(jié)束或馮·諾依曼架構(gòu)限制的限制。因此，學(xué)術(shù)界提出了基于憶阻器陣列的存儲計算模型（computing in memory）。傳統(tǒng)的基于憶阻器陣列的權(quán)重更新，需要計算出具體的脈沖數(shù)，這需要構(gòu)建復(fù)雜的外圍電路來計算脈沖數(shù)。在新的學(xué)習(xí)方案中，隨機提取訓(xùn)練樣本，基于訓(xùn)練樣本更新整個卷積神經(jīng)網(wǎng)絡(luò)的權(quán)重，計算梯度值獲取權(quán)重更新的方向，引入憶阻器非理想特性，給予憶阻器單脈沖進(jìn)行權(quán)重更新，該方法不需要復(fù)雜的外圍電路設(shè)計，節(jié)省了芯片面積和功耗。研究基于新的學(xué)習(xí)方案提出了四種權(quán)重更新方式，將傳統(tǒng)的SGD和PL作為基準(zhǔn)，在基于LeNet5網(wǎng)絡(luò)對MNIST圖像識別中取得了良好的識別率。該方法可應(yīng)用到更加復(fù)雜的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中，如resnet8網(wǎng)絡(luò)和VGG網(wǎng)絡(luò)識別cifar10數(shù)據(jù)集，具有良好的應(yīng)用前景和優(yōu)化空間。
