推論速度

書いてみる

関連タグ

#CLLMs (1)
#Jacobi (2)
#Jacobiデコード (1)
#LLM (7,995)
#Llama (394)
#オープンドメインタスク (1)

巨大なLLMモデルをマルチGPUで動かす！～モデル分割方法による速度の違い～

AIサトシ
6か月前

CLLMs: Consistency Large Language Models

Ikemen Mas Kot
9か月前