見出し画像

トランスフォーマーを理解する

澁谷直樹 @ キカベン

トランスフォーマーの自己アテンション機構の理解を中心に解説した記事のリストです。

①トークン数値化の歴史
②再帰による文脈伝搬
③レコメンダーと内積
④位置エンコーディング
⑤エンコーダ・デコーダ
⑥クエリとキーとバリュー
⑦エンコーダ・ブロックの詳細
⑧デコーダ・ブロックの詳細

いいなと思ったら応援しよう！