AutoAWQ

書いてみる

関連タグ

#AWQ (3)
#AutoGPTQ (4)
#CTranslate2 (7)
#ELYZA (159)
#LLM (7,389)
#Llama (382)

色々なライブラリでLLMを量子化してみる

sharp_engineer
7か月前