TriForce

書いてみる

関連タグ

#TriForceアルゴリズム (1)
#データセット (887)
#トークン (4,194)
#モデル (14,797)
#大規模言語モデル (2,555)
#推測的デコーディング (1)

TriForce: Lossless Acceleration of Long Sequence Generation with Hierarchical Speculative Decoding

Ikemen Mas Kot
6か月前