プレスリリース

2023/01/10

物理深層学習のための新たな脳型学習アルゴリズムを開発 ~新アルゴリズムで光ニューラルネットワークによる高速な深層学習を実証~

情報理工学系研究科知能機械情報学専攻の井上克馬助教と中嶋浩平准教授(次世代知能科学研究センター(AIセンター)兼務)は日本電信電話株式会社との共同研究グループにおいて、脳の情報処理から得た着想を得た数学モデルの一種である深層ニューラルネットワークならびに物理系を計算過程に用いる物理ニューラルネットワーク(物理NN)に適した新たな学習アルゴリズムを考案し、その有効性を確認しました。
この学習アルゴリズムを高速な機械学習器として期待されている光を用いた物理NNに適用することで、学習過程を含めて物理物理NN上で効率的に計算可能であることを世界ではじめて実証し、物理NNとしても世界最高性能を実現しました。今後、人工知能(AI)向けコンピューティングの電力消費や演算時間の大幅な低減につながることが期待されます。
この研究成果は、2022年12月26日に英国の科学誌「Nature Communications」オンライン版に掲載されました。

図1.(上)本成果の位置づけ。従来、高負荷な学習計算はデジタル演算で実行していましたが、本成果の手法によって、学習部にも物理系による演算が組み込まれ、効率化が可能となりました。(下)実機実証用の光NNの概要。光パルスをニューロンと、非線形光リングを回帰的な結合をもったNNと見立て、深層リザーバコンピューティング(※3)と呼ばれるリカレントNN(※4)を計算します。同一の光回路(※5)に出力信号を再度入力し、疑似的にネットワークの深層化を行っています。同一の系で推論用と学習用の計算を光演算でアシストしながら実行します。
図1
(上)本成果の位置づけ。従来、高負荷な学習計算はデジタル演算で実行していましたが、本成果の手法によって、学習部にも物理系による演算が組み込まれ、効率化が可能となりました。
(下)実機実証用の光ニューラルネットワークの概要。光パルスをニューロンと、非線形光リングを回帰的な結合をもったニューラルネットワーと見立て、深層リザーバコンピューティングと呼ばれるリカレントニューラルネットワークを計算します。同一の光回路に出力信号を再度入力し、疑似的にネットワークの深層化を行っています。同一の系で推論用と学習用の計算を光演算でアシストしながら実行します。

詳細は【情報理工_プレスリリース_20230110】をご覧下さい。

論文情報

雑誌名:Nature Communications オンライン版(2022年12月26日公開)
論文タイトル:Physical Deep Learning with Biologically Inspired Training Method: Gradient-Free Approach for Physical Hardware
著者:Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto, and Kohei Nakajima

ISTyくん