アダムオプティマイザー

書いてみる

関連タグ

#モデル (16,795)
#KLダイバージェンス (10)
#L2正則化 (8)
#TNGD (1)
#アナログハードウェア実装 (1)
#ウォームアップ (242)

Thermodynamic Natural Gradient Descent

Ikemen Mas Kot
9か月前

Better & Faster Large Language Models via Multi-token Prediction

Ikemen Mas Kot
9か月前