プリファードネットワークスの国産生成AI開発と社会への影響

goro　2018年からAIの進歩を追跡中

2024年10月14日 21:01

1.日経クロステックNEXT 東京 2024の概要

会　期：2024年10月10日(木)-11日(金)
会　場：東京国際フォーラム（東京・有楽町）ホールE
テーマ：“AI維新”を勝ち抜け！変革のテクノロジーを見つける２日間

本展示会・講演会に参加しました。今回は、テーマにあるように"生成AI"に限らずDX全般に関する展示と講演が行われました。
ここでは、出席したPreferred Networks（PFN）岡野原大輔代表取締役・最高研究責任者（国産LLMの第一人者）の講演について報告します。

講演のポイント

PFNの全方位型事業：チップ設計から生成AI・基盤モデル、ソリューションまでを統合的に提供し、「PreferredAI」というブランド名で、お客様がすぐに活用できるプロダクトも展開していく。
生成AIの可能性：AIは大量データを瞬時に処理し、知的労働の支援や物理作業の自動化を加速。経済効果は世界で2000兆円と予測され、仕事の高度化が進む。
国産LLM「PLaMo」の開発：日本語に強い生成AIモデル「PLaMo-100B」を開発し、次期LLMプロジェクトでさらなる性能向上と省エネを目指す。

2. 講演レポート

１．講演概要

①PFNの事業内容と大規模言語モデル（LLM）の開発、②LLMが社会にどのような影響を与えるかについて語られました。

２．PFNの全方位型事業

PFNは、チップの設計から計算基盤、生成AI・基盤モデル、ソリューションまでの全ての領域をバーティカルに展開する非常にユニークな企業です。こうした技術を統合的に提供できる企業は世界的にも珍しく、その強みを活かして多方面で事業を展開しています。さまざまなお客様がPFNの技術を活用して製品開発を行っており、共同開発も増えています。これを支えるのが、PFNが独自に開発した生成AIや基盤モデルであり、電力効率を高めた独自のAI半導体「MN-Core」シリーズの開発で、AIによる膨大な消費電力に対応しており、計算基盤やAIチップの開発が量産に至ったことで、今後さらに産業向けやコンシューマー向けの革新的な製品・サービスの提供が見込まれます。

３．生成AIの可能性

ディープラーニングの登場で、AI技術の実用化は加速しました。更に、生成AIの登場により、AIは多くの分野で本格的に活用されています。AIの強みは、人間が何年もかけて覚えるような大量のデータを瞬時に処理し、複雑なタスクを正確にこなせる点です。AIが膨大な情報を処理することで、より高度な分析や意思決定が可能になります。例えば、多数のAIエージェント同士が多数の契約交渉を同時に進めて締結まで持っていくことも可能となります。また、ロボット技術との組み合わせによる物理作業の自動化も急速に進んでいます。

生成AIによる経済効果は、世界で2000兆円に達すると予測されています。当初は単純作業の自動化が中心でしたが、現在は知的労働の支援へと進化しています。これにより、仕事そのものがなくなるという懸念があるかもしれませんが、現実的には特定のタスクをサポートし、生産性を向上させることが目的です。そのため、職業自体が消滅するというよりも、仕事が高度化することで労働形態が変化していくと考えるのが妥当です。

４．最新のLLM開発技法

LLMの開発は今後も進化を続けますが、単にモデルを大きくするだけでは限界があります。現在、多くの企業が開発にNVIDIAのGPUを大量に使用していますが、これは現実的な限界に近づいています。その一方で、チップ性能の改善や学習データの質の向上などの新しいアプローチがAIの性能を劇的に向上させています。
また、2024年になって学習時のスケーリングだけでなく、回答時の推論に投じる計算量が大きければ大きいほど、より難しい問題が解けるようになるという新たな「推論スケーリング則」が注目されています。複数の回答から正解を導き出す「反復サンプリング」などの新手法が開発されています。OpenAIの最新モデル”o1”も、このアプローチで高性能を実現しています。

５．LLMの今後の展望

LLM開発は、モデルの拡大だけでなく、どう活用するかが重要です。AIは万能ではなく、課題解決には人間との協力が不可欠です。今後は、人間とAIが協力し、LLMを効果的に活用する方法が鍵となるでしょう。

６．国産LLM「PLaMo」の開発

PFNは、日本語性能に優れた生成AI基盤モデル「PLaMo」を展開しています。1000億パラメーターのLLM「PLaMo-100B」を開発しており、製造業や医療、金融分野での応用が期待されています。講演では、無料トライアル版として公開されている「PLaMo β版」の実演も行われました。また、2024年8月にリリースされた小規模言語モデル「PLaMo Lite」は、高性能モデルをエッジ端末で利用可能とする特徴を持っています。

さらに、2024年10月に始動した次期LLM開発プロジェクトも紹介されました。「世界最大規模の高品質学習データ」を使うことで、PLaMo-100Bを超える性能を、10分の1以下のコストで実現することを目指しています。

PFNは、基盤モデルを活用した製品やソリューションを提供する計画で、「PreferredAI」というブランド名で、お客様がすぐに活用できるプロダクトも展開していく予定です。

７．終わりに

PFNは、AI技術の限界に挑戦し続け、生成AIや基盤モデルの進化を追求します。大規模言語モデルの開発競争が激化する中、技術の拡大だけでなく、どのように社会に貢献するかを重視しています。

3.まとめ

国産LLM開発をリードするPreferred Networks岡野原氏の講演を生で聞くことが叶い、幸運でした。成長著しい分野で活躍されながらも、AIの一般への普及に関しても積極的に発信されている姿勢にも改めて感服しました。