QAT

書いてみる

関連タグ

#4ビット量子化 (3)
#AI最適化 (16)
#INT8 (3)
#エッジAI (259)
#モデル軽量化 (2)
#大規模言語モデル (2,901)

LLMにおける量子化とは？〜モデルの軽量化や推論の高速化を実現する手法〜

びじほー
9日前