GQA

書いてみる

関連タグ

#CS (3,546)
#LLM (7,389)
#MMLU (10)
#human (389)
#ダイナミックメモリ圧縮 (1)
#メモリ (1,043)

Dynamic Memory Compression: Retrofitting LLMs for Accelerated Inference

Ikemen Mas Kot
9か月前