
Sakana AI [日本版DeepSeek] が新モデル公開! 簡単にわかりやすく!
Sakana AI 公式X
この度、新手法「TAID」を用いて学習された小規模日本語言語モデル「TinySwallow-1.5B」を公開しました。https://t.co/U7qpbz2BgL
— Sakana AI (@SakanaAILabs) January 30, 2025
私たちは、大規模言語モデル(LLM)の知識を効率的に小規模モデルへ転移させる新しい知識蒸留手法「TAID (Temporally Adaptive Interpolated… pic.twitter.com/OUCy71ho42
Sakana AIに触れてみた方の感想
おお、ついにsakanaから!
— MATはAI中学二年生 (@mat_m_a_t) January 30, 2025
何をやってる会社なんだろう?と思っててゴメンね!
早速トライしてみます! pic.twitter.com/pG8G5dBlXk
TinySwallow-1.5BはどんなAI?
TinySwallow-1.5Bは、日本のSakana AIという会社が作った新しいAI。ChatGPT(GPT-4など)は大きな工場みたいなAIだけど、TinySwallow-1.5Bはコンパクトな小型ロボットみたいなAI。
名前の「Tiny」は「小さい」という意味で、パソコンの大きなAIよりも軽くて速い動きが可能で、特にiPhone 14のようなスマホでも、オフラインで動作して文章を速く作ることが可能!
ChatGPT vs TinySwallow-1.5B

どうやってこんなに軽くなったの?
通常、AIはたくさんのデータを使って学ぶので、大きなパソコンが必要!
でも、この「TinySwallow-1.5B」は「TAID」という新しい技術を使って、軽くて小さく、でもしっかり動くAIになりました。この方法は、先生のAIから生徒のAIに賢く知識を移す方法です。
TinySwallow-1.5Bのすごいところ2点!
🌱 知識蒸留(ちしきじょうりゅう)
TinySwallow-1.5Bは、大きな先生AIから少しずつ学ぶ方法(知識蒸留)を使って成長した。
🍀 TAID(タイド)
いきなり超賢い先生に習うと難しい。だから、「ちょっとずつレベルを上げる」新しい勉強法を考えた。
📱 スマホで使える
ChatGPTはインターネットが必要だけど、TinySwallow-1.5BはオフラインでもOK。スマホやパソコンにダウンロードして使える。
例え話:AIはゲームのキャラ育成みたい
ChatGPT(GPT-4)は、レベル100の最強キャラだけど、強い装備(サーバー)が必要。
TinySwallow-1.5Bは、レベル30の軽くて速いキャラだけど、どこでも使える。
どっちがいいかは使い方次第。
何がすごいの?
結論このAIは、他の小さなAIモデルよりも賢くて、日本語にもとても強いんです。日本語を使っても、うまく動いて、普通のスマートフォンでも使えるので、とても便利です。
未来はどうなる?
Sakana AIは、この技術をもっといろんなAIに使って、小さくてすごいAIを増やそうとしている。ネットなしでサクッとAIを使いたいなら、TinySwallow-1.5Bはいい選択かも!!!!
下記ホームページを参考 (正直難しいです😭)
いいなと思ったら応援しよう!
