GQA

書いてみる

関連タグ

#CS (3,393)
#LLM (6,208)
#MMLU (9)
#human (387)
#ダイナミックメモリ圧縮 (1)
#メモリ (944)

Dynamic Memory Compression: Retrofitting LLMs for Accelerated Inference

Ikemen Mas Kot
6か月前