ANPD

書いてみる

関連タグ

#Nグラムモジュール (1)
#gram (24)
#アルゴリズム (3,820)
#パラレルデコーディング (1)
#マルチレベルNグラム (1)
#モデル (16,168)

Lossless Acceleration of Large Language Model via Adaptive N-gram Parallel Decoding

Ikemen Mas Kot
9か月前