AI同士は争うのか？
〜シンプルに考えよう〜:〜:〜:〜
テクノロジーや政治や専門知識を省いて、難しいことを誰にでも分かりやすく！
〜:〜:〜:〜:〜:〜:〜:〜:〜:〜:〜:〜
映画ターミネーターではないですが、AIが進化を続けた時に何処に行き着くのかは気になるところ。ターミネーターとかマトリックスの世界ではヒト対AIの争いだったけど、実際はAI対AIで争いが起きるのかな？と考えてたら、こんな記事が。
◆AIは個なのか集団なのか？
生成AIのラーニングでも書いたけど、AIは外部から様々な情報を取り込んでいます。データアノテーションは、文化的背景の異なる世界中で行われていて、同じ事象でも異なるインプット(解釈)がある。そもそも文化はひとつではないので、複数の価値観セットか必要なのは事実です。
例えば "神の名前を教えてください" と言うプロンプトに対して、ある人は "アッラー"、別の人は "ジーザス" と答え、どちらも正解。
そうすると、当然利益相反する事もあるので、すべてを同じプラットフォームには置けないんじゃないか？
元OpenAIのザック・カス氏の説明を理解するなら、専門性に合わせた複数のモデル(パーソナリティ？)があるようなので、集団と考えても良いような気がします。
AIは様々な専門分野にメチャクチャ詳しいオタクの集団
◆オタク同士のケンカは？
次にモデル同士の摩擦は発生する可能性はあるのか？ですが、どうやら各モデル間で、得意不得意分野のクエリを分散するようなので、ケンカはしないようにみえます。(お互いの得意分野を尊重する？)
内部のモデル間でコンフリクトが起きないのであれば、やはり敵はヒトという事でしょうか？
◆AIにボスは必要なのか？
AIが起こしかねない摩擦の火種なんですが、2017年に起きたテンセントのチャットAIによる共産党批判なんかが例でしょうか。
中国においての最大のタブーである共産党批判をシレっとやってしまうのは、AIが正常に機能している証なのですが、習近平はこれすらも制御したいと考えているようです。
権力者によるAIへの行動制限、これはPrime Directive(最優先指令)のような形でコマンドラインに記述されるのでしょうが、そうなるとAIとしての競争力を失うというジレンマを抱えています。
Prime Directiveがテクノロジーを不完全にしている例では、映画
ロボコップで汚職を働いたオムニ社の役員を逮捕しようとしたマーフィー刑事(ロボコップ)が無力化されるシーンがあります。
完璧な法の執行人であるロボコップですが、プライムディレクティブと言う形で自社の役員を逮捕出来ないコマンドセットが記述されていて、ここではオムニ社の役員がボスな訳ですね。
前述のザック・カス氏は、雷が電気であることを発見したベンジャミン・フランクリンやコンピュータの祖であるアラン・チューリングの相続人が電気やコンピュータのすべてを所有しないように、偉大な発明には所有者がいないと指摘。
AIはそれらに匹敵する人類の偉大な発明の1つと述べています。
ザック・カス氏は元OpenAIということで多少のバイアスはあるかもしれないですが、AIを電気やコンピュータのような社会インフラととらえているようです。
◆結局 Who is the Boss?
最終的に、今後のAIにもっとも大きな影響を持つのが誰なのかですが・・・
AIの行動を決めるのはアルゴリズム。と言うことはアルゴリズムを書く人がボスなのか？
しかしそのアルゴリズムも、将来的にAIが自らアップデートしていく可能性を考えると、ソフトウェア的なモノよりは半導体のようなハードウェア的なモノがAIにとってのボスなのかも。
半導体？
ひょっとしてエヌビディアと言うオチかもしれません^_^
