人気の記事一覧

回転位置エンコーディングによるGPTの改善

∞Bench: Extending Long Context Evaluation Beyond 100K Tokens

6か月前

朝日新聞がタイトル生成の出力長を調整するために位置エンコーディングを工夫した話。新聞とかレイアウトが決まってると文字数で決めたくなるのかな。 https://www.anlp.jp/proceedings/annual_meeting/2019/pdf_dir/P4-7.pdf

Contextual Position Encoding: Learning to Count What's Important

6か月前

Hyb-NeRF: A Multiresolution Hybrid Encoding for Neural Radiance Fields

7か月前

トランスフォーマーの論文を読む⑨位置

トランスフォーマーの論文を読む③方針