量子化技術

書いてみる

関連タグ

#Llama (336)
#モデル (14,684)
#大規模言語モデル (2,529)
#AI (321,637)
#AI革命 (208)
#GPU最適化 (1)

AIの未来：OSSとルーティングが拓く人間中心のアンサンブルアプローチ

清田史和
4か月前

QServe: W4A8KV4 Quantization and System Co-design for Efficient LLM Serving

Ikemen Mas Kot
6か月前

Investigating Automatic Scoring and Feedback using Large Language Models

Ikemen Mas Kot
6か月前