組織

専攻

附属センター

関連連携研究機構

関連学部

On Learnability via Gradient Method forTwo-Layer ReLU Neural Networks in　Teacher-Student Setting（教師生徒設定における勾配法による二層ReLU ニューラルネットワークの学習可能性について）

秋山 俊太

（指導教員：鈴木大慈 准教授／ 数理情報第6研究室）

資料PDF（48196201.pdf）
研究概要

生徒パラメータ(実線)が教師パラメータ(点線)に収束する様子
深層学習における教師生徒設定とは、ニューラルネットワークを別のニューラルネットワークで学習する枠組みを指す。本研究では二層・ReLU活性化関数を用いた場合に、特定の正則化と勾配法により高確率で学習可能性が保証されることを示した。
修論の感想

研究テーマの設定から論文の執筆まで、非常に学びの多い二年間でした。苦労も多かったですが、今後に活きる経験をさせていただきました。

>
ISTyくん

東京大学 THE UNIVERSITY OF TOKYO

Copyright © 2019 　Graduate School of Information Science and Technology, The University of Tokyo