並列注意フィードフォワードネット設計

書いてみる

関連タグ

#GLUEベンチマーク (2)
#トランスフォーマーモデル (57)
#トークン (4,086)
#フィードフォワードネットワーク (2)
#ブロック (4,547)
#モデル (14,447)

Investigating the Role of Feed-Forward Networks in Transformers Using Parallel Attention and Feed-Forward Net Design

Ikemen Mas Kot
6か月前