Transformerの最前線 〜 畳込みニューラルネットワークの先へ 〜
2022年6月8日にSSII 2022のチュートリアル講演で用いたスライドです。 2017年に機械翻訳を対象として提案されたTransformerは、従来の畳込みや再帰を排して自己注意機構を活用したニューラルネットワークです。2019年頃からコンピュータビジョン分野でも急速に応用が進んでいて、より柔軟かつ高精度なネットワーク構造と…
もっと詳しく
