自動NIC選択

書いてみる

関連タグ

#Holmes (60)
#LLMトレーニングフレームワーク (1)
#データ並列性 (2)
#トレーニング (62,726)
#パイプライン並列性 (1)
#モデル (16,362)
#並列性 (1)

Holmes: Towards Distributed Training Across Clusters with Heterogeneous NIC Environment

Ikemen Mas Kot
9か月前