QJL

書いてみる

関連タグ

#データセット (936)
#メモリ (1,076)
#メモリ削減 (2)
#モデル (16,700)
#言語モデル評価 (5)
#論文 (17,079)

QJL: 1-Bit Quantized JL Transform for KV Cache Quantization with Zero Overhead

Ikemen Mas Kot
8か月前