人間が介在しないテクノロジー開発はAIサイバー神となり暴走する未来
人間が求める利便性（テクノロジー）は、常にリスクとの表裏一体。
映画スターウォーズの可愛いアナキンスカイウォーカーが、ダークサイドに落ちてフォースの力を残虐な殺戮に使ったダース・ベイダーになったように。
AIが開発したAI（AI教師がAIの教え子）は、人知を越えたAIサイバー神となり、AIデータセンターと連動する専用の原子力発電所を暴走させる人類滅亡のワーストシナリオも考えられるでしょう。
AIサイバー神を操る超人的ハッカーがAIにプログラムを実装した場合、このような悲劇を生み出す可能性があるでしょう。
緊急時に対応に、人間が介在しないAIはコードの解析も出来ず、AIによって開発された半導体は回路そのものを人間が理解出来ない事態になるでしょう。
性悪説でAI開発は想定しないと人類を滅ぼすデジタルソリューションとなるでしょう。
その為には、我欲に走るビックテックにAI開発制限をする法整備が必要、例えばアシモフ自身が提唱した「ロボット工学三原則」のAI版と国連の関与が必要です。
【米国MicrosoftのAI戦略】
～引用～
米マイクロソフトが人工知能（AI）を使ってAIを開発する手法を始めた。生成AIの開発には膨大なデータの学習が必要だが、提携先の米オープンAIの高性能AIが「先生役」となり、より有用なデータを選ぶことで効率化した。AI開発が将来的に人の手を離れ、進化がさらに加速する可能性がある。
4度改良重ねる
「AI同士がいわば先生と生徒役になる」――。
【警鐘】
【サム•アルトマン氏】
【日本のメディアからの警鐘】
この記事が気に入ったらサポートをしてみませんか？