21世紀に「Newton」誕生~あらゆる物理現象を理解し予測するAIモデル
「Newton」と聞くと物理学者が頭に浮かぶ人が多いと思います。科学雑誌にもここから命名されたものがあるほど有名な科学者です。17世紀から18世紀に生きたこの偉人は「ニュートン力学」と称される古典力学や微分積分法の創始を行い、彼が提唱した万有引力の考え方は天文学を含む古典力学において、現在も中核的な役割を果たします。没後300年以上経った21世紀になり同じ「Newton」の名をもつものが現れました。21世紀の「Newton」はどのような偉業をなすでしょうか。
21世紀の「Newton」の正体はAIモデルです。元Googleの研究者らが立ち上げたAIチーム「Archetype AI」が発表した論文「A Phenomenological AI Foundation Model for Physical Signals」の中で、「あらゆる物理現象を理解し予測するAIモデル」を開発した研究が報告されています。「Newton」と呼ぶこのAIモデルは、基本的な力学振動や熱力学実験から、都市の電力需要、日々の気温変化、変圧器の油温など、より複雑な実世界のシステムまで、高い精度でゼロショットで予測できるといいます。ゼロショットとは、AIモデルが新しいタスクに対応するためのファインチューニングのような特別な追加学習をせず、簡単な指示や質問(プロンプティング)だけで答えや結果を出す能力のことです。未学習のタスクでも既存の知識を活用して対応する手法といえます。
従来の物理現象解析用AIは特定の現象に特化して設計されており、異なる現象への応用が困難でした。例えば、流体力学用に設計したAIモデルをレーダー画像の解析に使用できません。この課題を解決するため、研究チームは物理法則の事前知識を一切組み込まず、純粋にデータから学習する現象論的アプローチを採用しました。具体的には、電流や流体の流れ、光センサーなど、多様なセンサーから得た約5億9000万個の測定データを使用してAIモデルを訓練したのです。このモデルの特徴的な点は、物理現象をセンサーデータの時系列として捉え、それを統一的な表現形式に変換する仕組みにあります。まず測定データを分割し、それらをTransformerベースの深層ニューラルネットワークを用いて処理をします。これにより、異なる種類のセンサーデータであっても、共通の埋め込み空間での表現が可能になるというわけです。
Transformerとは自己注意機構と呼ばれる仕組みで、もともとはGoogleが機械翻訳のために開発し、2017年に論文「Attention Is All You Need」で詳細を発表したアーキテクチャーになります。自己注意機構とは簡単に説明すれば、データのどこに注意(着目)すべきかを、データの種類や内容に応じて変化させる仕組みのことです。これまでの深層学習(ディープラーニング)アーキテクチャーは、どのデータに対しても同じフィルター(関数)を適用することでデータをモデル化するため、モデル化に際して重要な情報が失われることがあります。それに対して自己注意機構であるTransformerを用いると、データの種類や内容に応じてフィルターが変化するため、注意すべき重要情報を失わずにデータをモデル化できる可能性が高まり、機械学習モデルの表現力を向上できるというわけです。Transformerベースのニューラルネットワークは、元Googleの研究者であるがゆえに導入できた技術ともいえます。
モデルの性能を検証する実験では、結果の解釈が容易で標準的なベンチマークとしても使用される基本的な系として、バネに質量を取り付けた振動子システムと、温度差から電流を生み出す熱電効果システムを用いられました。また、都市の気象データ、国レベルの電力消費量、変圧器の油温など、より複雑な実世界のデータも用いられました。
実験の結果、開発したモデルは訓練データに含まれていない物理現象であっても、その振る舞いを高い精度で予測できることが判明しました。特に注目すべきは、このモデルが特定の現象のデータのみで訓練した専用モデルを上回る性能を示したことです。例えば、変圧器の油温予測で変圧器データのみで訓練したモデルよりも優れた予測精度を達成しました。
これらの結果、個別のアプリケーションごとに異なるAIモデルを訓練する必要がなくなり、新しいユースケースに必要なトレーニングデータと計算リソースを大幅に削減できることになります。また、観測データから直接物理的な振る舞いを学習できることで、人間の介入なしに新しい環境や要件に適応できる自律システムの開発が可能になります。
人工知能のAIが人のように予測ができるようになると期待されてきましたが、実際に予測ができるようになると驚きが大きく、現実味がありません。AIがウェブクローリングやスクレイピングなどの技術を用いて、インターネット上に散在する情報を自動的に収集することができるようになったのがつい先日のように思います。
今では、マーケティングなどに活用できる「データマイニング」として幅広い領域で使用されています。これは既存のデータを収集しているだけなので、データベースの範囲が広くなったと考えれば、それほど驚く進歩でもありません。
しかし、「Newton」は「知らないことを予測」するのです。これがどれほど大きな違いがあると思いますか。
大袈裟に言えば、人間が経験から予測する「勘」をAIが手に入れたことになります。人間の思考と大差ないと思えるほどの進歩です。「Newton」開発研究チームも「世の中のあらゆる未知の物理現象を予測できるAI」と称するほどです。人間の思考を模倣して作られたAIがますます人間に近づいたことになります。
科学の立場からすれば、非常に喜ばしい開発であり、さらなる進歩を期待してしまいます。AIが進歩し人間と同じことができるようになればなるほど、AIと人間の棲み分けが重要になります。これは法的な視点、倫理的な視点など様々な分野での検討が必要な要件であり、科学者にだけ背負わせていい問題ではありません。科学の発展を横目に社会全体が許容する準備が必要かもしれません。