マルチヘッド・アテンション

書いてみる

関連タグ

#Artificial_Intelligence (91)
#トランスフォーマー (1,194)
#バッチ正規化 (5)
#レイヤー正規化 (1)
#位置ごとのフィード・フォワード (2)
#多頭アテンション (4)

トランスフォーマーの自己アテンションの理解⑦エンコーダ・ブロックの詳細

澁谷直樹 @ キカベン
1年前