並列注意フィードフォワードネット設計

書いてみる

関連タグ

#GLUEベンチマーク (2)
#トランスフォーマーモデル (57)
#トークン (4,544)
#フィードフォワードネットワーク (2)
#ブロック (4,870)
#モデル (15,852)

Investigating the Role of Feed-Forward Networks in Transformers Using Parallel Attention and Feed-Forward Net Design

Ikemen Mas Kot
9か月前