自動NIC選択

書いてみる

関連タグ

#Holmes (60)
#LLMトレーニングフレームワーク (1)
#データ並列性 (2)
#トレーニング (63,786)
#パイプライン並列性 (1)
#モデル (17,053)
#並列性 (1)

Holmes: Towards Distributed Training Across Clusters with Heterogeneous NIC Environment

Ikemen Mas Kot
10か月前