組織

専攻

附属センター

関連連携研究機構

関連学部

Approximation and Estimation Ability of Transformers for Sequence-to-sequence Function with Infinite Dimensional Input

高倉 将吉

（指導教員：鈴木 大慈 准教授／ 数理情報第6研究室）

資料PDF（takakura.pdf）
研究概要

トランスフォーマーによる近似のイメージ
近年トランスフォーマーは深層学習においてよく用いられるが，その理論的性質は明らかになっていない．本研究では非等方的な滑らかさを持つ関数に対する近似誤差と推定誤差の収束レートを導出し，高次元データに対するトランスフォーマーの有効性を示した．
修論の感想

研究を進める中で様々なことを学び，経験することができました．お世話になった方々に感謝いたします．

>
ISTyくん

東京大学 THE UNIVERSITY OF TOKYO

Copyright © 2019 　Graduate School of Information Science and Technology, The University of Tokyo