アダムオプティマイザー

書いてみる

関連タグ

#モデル (13,695)
#KLダイバージェンス (10)
#L2正則化 (8)
#TNGD (1)
#アナログハードウェア実装 (1)
#ウォームアップ (204)

Thermodynamic Natural Gradient Descent

Ikemen Mas Kot
4か月前

Better & Faster Large Language Models via Multi-token Prediction

Ikemen Mas Kot
4か月前