アダムオプティマイザー

書いてみる

関連タグ

#モデル (15,605)
#KLダイバージェンス (11)
#L2正則化 (8)
#TNGD (1)
#アナログハードウェア実装 (1)
#ウォームアップ (228)

Thermodynamic Natural Gradient Descent

Ikemen Mas Kot
7か月前

Better & Faster Large Language Models via Multi-token Prediction

Ikemen Mas Kot
8か月前