自分のPCにインスト可能なLLM "Jan" 誕生
Janは、コンピュータ上で100％オフラインで動作するオープンソースのChatGPT代替品です。
Janはあらゆるハードウェア上で動作します。PCからマルチGPUクラスターまで、Janは以下のユニバーサルアーキテクチャをサポートしています：
Nvidia GPU（高速）
Apple Mシリーズ（高速）
Apple Intel
Linux Debian
Windows x64
インストール方法
Jan | Rethink the Computer
例えばMacであればAppleシリコン推奨ですが、多少速度が遅くても構わないならばIntel Macでも十分に動作します。
世界中の評判に注目してみましょう。
自分自身のChatGPTを常に求め、十分なコーディング知識を持っているようなあなたなら、"自分専用のAI"を狙う鷹のように、@0xSageによるオープンソースの@janframeworkに注目するでしょう。まだ開発中ではありますが、そのアーキテクチャは本当に未来的です。Windows、Mac、Linux用のデスクトップアプリがダウンロード可能になっているので、この週末に試してみる予定です。彼らは@LangChainAI、@OpenRouterAIなど、異なる統合作業にも取り組んでいます。アシスタント、ファインチューニングなどに関する彼らのエンジニアリング仕様は印象的です。最も期待が高いのは拡張機能です。まだどうなるかは言えませんが、拡張機能は本当に特定の要件に合わせて実装をカスタマイズできるので、大きな可能性を秘めています。
私は自分のラップトップで@janhq_を使ってローカルでいくつかのAIモデルを実行してみましたが、その使いやすさとクールさに驚いています。なので、今ではChatGPTと同じ体験ができますが、オフラインで、そしてデータの心配もなく。