量子化技術

書いてみる

関連タグ

#Llama (383)
#モデル (16,529)
#大規模言語モデル (2,850)
#AI (345,634)
#AI革命 (378)
#GPU最適化 (2)

AIの未来：OSSとルーティングが拓く人間中心のアンサンブルアプローチ

清田史和
7か月前

QServe: W4A8KV4 Quantization and System Co-design for Efficient LLM Serving

Ikemen Mas Kot
9か月前

Investigating Automatic Scoring and Feedback using Large Language Models

Ikemen Mas Kot
9か月前