【ブログ】今の生成AIは既にデジタルとは言えない話【アナログ】
はじめに
生成AIは、もちろんデジタル技術上に構成された仕組みですが、その性質と振舞いを考えると、既にデジタルでは無くなっているのではという話です。
一般に、ニューラル・ネットワークを利用したAIと人間の性能を比べるときに「デジタル vs アナログ」という図式を考える事が多いと思います。しかし生成AIは実質的にアナログ的な振舞いを示しており、近未来には、（熱力学コンピュータ等）アナログデバイスをアクセラレータとしてそのまま利用できるぐらい構造的なアナログ性を持っています。
つまり、昨今のメディアが考える主流の考え方「AI時代になれば、人間性を強調したアナログ的思考が重要になる」は間違えているのではという主張です。
※ だからといって何が重要になるのかは筆者にはわかりません。ゴメンナサイ。
今の生成AIのアナログ性
デジタルとは離散化されたデータを扱い、データは完全に再現可能で、ノイズの影響も少なく、劣化もありません。一方で、アナログは連続を扱うために無限の情報や解像度を持ちますが、ノイズや経年劣化により情報が失われます。
生成AIは再現不可能で、ノイズの影響を受ける
今の生成AIにアナログ性が出てしまう原因の一つは、ネットワークの演算手法にあります。NPU/GPGPU（CUDA）は顕著な例で、演算毎に異なる値を出します。
実際に、画像生成AIで同じプロンプト、プロパティ、シードで（かつ最適化をはずして）画像を二枚生成して、
diff imageA.png imageB.pngとしてみると（Linuxコマンド）、見た目は同じでもバイナリレベルで異なっている事がわかります。
デジタル演算なのに、なぜ正確に同じ値にならないのかという問題ですが、シンプルなコンピュータの概念である決定論的なノイマン型コンピュータと異なり、「大雑把な」並列演算を行うからです。
大雑把というのは、パフォーマンス重視にするために、演算の正確性を端折っているからです。特に演算順序は運まかせの非同期になっているので、演算結果は外部ノイズに影響されます。順番の異なる浮動小数点数の演算（2.0+3.0と3.0+2.0など）は異なる結果になります。
※ AIモデルには演算精度を落としたFP16版やFP8版、量子化版があるように、AI演算は他の数値計算用途と大きく異なって、大雑把で適当でいいのです。今までは利用価値のなかった、大雑把で信頼性も精度も低く、たまに間違えるが低電力で超高速に演算できるデバイスNPUが台頭している理由です。
生成AIのカオス性
カオス性とは、入力と出力の関係が予測困難な現象の事です。入力の変化に鋭敏であるため、入力を少し変えるだけで出力が大きく変わってしまうものです。バタフライ効果とも言われ、中国で蝶が羽ばたくと、逐次的な因果関係の果てに影響が増幅され、次の年のアメリカのハリケーンに影響を及ぼすというものです。
どんなに一意的に決まる正確で単純なデジタル演算が元になっていても、カオス性のある性質を含んでしまうと、無限の情報や解像度を持ってしまいます。二重振り子や重力の３体問題などがわかり易い例ですが、簡単な法則と条件が元になっているにも関わらず、予測不可能であるが秩序だった複雑な動きをします。
AIニューラル・ネットワークの場合、ネットワーク自体は線形なので、重みなどは線形の足し合わせになっていますが、それぞれの関数に非線形性を抱えているので、推論自体は（AIモデルによりますが）カオス性を出してしまいます。
つまり
（Stable Diffusionなどの画像生成AIはそれほど鋭敏ではありませんが）確率に支配された再現性のない演算によって、その後の推論に大きく影響する構造を持っているので、有限の学習データのトレーニングであっても「無限の情報と解像度」を持ち「環境ノイズに影響される」性質を内包しています。
この生成AIの性質が、人間と同じ”予測不可能な”ハルシネーションや創造性を生んでいるという事です。
将来の生成AIのアナログ性
AI研究では、ネズミなどの動物の神経細胞をそのまま利用して人工ニューラル・ネットワークを構築する実験もされています。もちろんTRANSFORMERそのまま入れ替える事はできませんが、一部の演算だけをリアルな神経細胞に置き換える将来は十分ありえます。今のAIはニューロンと演算量を増やすと電気代が増えてしまいますが、動物細胞を利用すれば大きく改善される可能性があります。
さすがにAIエンジン部にリアルな動物の神経細胞を利用すれば、アナログである事に異論はないと思いますが、（準量子コンピュータのような）アナログの熱力学コンピュータをネットワーク演算に利用しても、アナログ性が顕著になる事は明らかだと思います。
さらに、高いIQの人間と低いIQの人間に電気代（エネルギー）差がないように、熱力学コンピュータをAI演算に応用する事ができれば、演算量や性能を上げても必ずしも比例しなくなり、状況がさらに人間に近づきます。熱力学コンピュータでは、エネルギーではなく、エントロピー（無秩序さ・秩序さ）が重要になるからです。
※ 単純化すると、今のNPU/CUDAのように、正確でなくとも大雑把な結果が得られれば良いので、超高速な各種アナログ・デバイスと非常に相性がいいわけです
まとめ
基本的には、昨今主流の「AIに使われるな、道具として使いこなせ」「所詮は機械なので、恐るるに足らず」「人間力こそ重要になる」の主張に対する逆張りです。筆者はニューラル・ネットワークモデルを利用するデジタルAIと人間のアナログ思考の本質は、実はそれほど変わらないのではという予想と考えを持っています。
ただし、今のAIはまだまだ「恐るるに足らず」「ただの道具レベル」である事も事実です。
一方で、AGI（汎用人工知能）が出来てしまった時に備えて、その人智を超える能力を特定の国や◯penAIやG◯◯gleのような営利企業が管理・独占する事がないように、「人を超える事はない」「人に害をなさない」「恐るるに足らず」とは考えずに、常に警戒すべき事だと考えます。
特にAIに関する技術情報を営利目的でクローズドにする事を（Appleストア大手が管理して安心と考えるのではなく）大きな悪徳とする世界世論はこれからも保ってほしいものです。
※ 野良AIが良く犯罪やデマに利用されるので、大手や中国共産党政府のみのクローズドにする方が良いという考え方も理にかなっており、やはり根強い支持があるのです
AIコメント荒らしに対抗できるのはAIコメントブロックであるように、AIが政府・企業と共に暴走した時に対抗できるのはAIだけですから。