CyberAgentLM2 (CALM2) のモデルの Google Colab 実行コード

サンプルコードを実行したノートブックを置いておきます。V100 でも推論できます。CALM2 の全体像的なまとめはこちら↓

https://t.co/BwedG5uVKE

CyberAgentLM2 (CALM2)

サイバーエージェントの大規模言語モデル。ベースモデル（4k）とチャットモデル（32k）の二種類を公開。チャットモデルは 32k トークンの入力に対応（日本語で約 50,000 文字）。商用利用可。

cyberagent/calm2-7b: https://t.co/EC1LFMnYix… https://t.co/CN7wcvJlny

— ぬこぬこ (@schroneko) November 2, 2023

各モデル Gist から Open in Colab を押せばそのままノートブックを開いて実行できます。

cyberagent/calm2-7b

cyberagent/calm2-7b · Hugging Face

cyberagent/calm2-7b-chat

cyberagent/calm2-7b-chat · Hugging Face