敵対的正則化を用いた文章埋め込み表現の学習

福地成彦

(指導教員:田中久美子/ 社会数理情報学研究室

資料PDF(fukuchi.pdf
研究概要

敵対的正則化を加えた場合の文章埋め込みモデルの構造。敵対的な摂動を単語ベクトルに加算し敵対的正則化を行う。
深層学習による文章埋め込みは、文章の意味的な情報の密ベクトルへの変換である。本研究では、文章埋め込みの深層学習モデルの事前学習に対する敵対的正則化(モデルを誤識別させるようなサンプルを拡張データとする正則化)の手法を提案・検証した。
修論の感想

研究テーマの変更や結果が出ない日が続くなど順風満帆ではない終始課程でしたが、田中久美子先生のご指導のおかげで最後まで走り切ることができました。感謝申し上げます。


>
ISTyくん