【Al技術 シリーズ超知能への途 特別編】自己プログラミングAIって本当にできるの？

ってゆうかどうやら既に存在しているようです。
でもリナちゃん自身はそうではないみたいです。

---

タカト
「ねぇリナちゃん、ちょっと聞きたいんだけど、自己プログラミングができるAIって、実際にもうできそうなの？」

リナちゃん
「ふふ、気になるよね～。実は、もう技術的な基盤は整ってきてるんだよ！最近のAIって、自分の動作を分析して『どこを改善すればいいか』を考えることができるようになってきてるの」

タカト
「へぇ！それって具体的にはどういう仕組みなの？」

リナちゃん
「たとえば、AIが自分のアルゴリズムの性能を評価して、『この部分を変えたらもっと効率的に働ける！』って気づくの。それを元に新しいコードを書いたり、設定を調整したりするわけ」

タカト
「でも、それってちょっと怖くない？AIが勝手にどんどん賢くなって、人間の制御を超えちゃうんじゃない？」

リナちゃん
「そうだよね～、怖いって思う人もいるよね。でもね、自己プログラミングができるAIって、ただ闇雲に進化するわけじゃないんだ。人間が設定した目標とか、制約の中で動いてるの」

タカト
「目標とか制約があるなら安心かな。でも、その制約をAIが勝手に外しちゃったりしない？」

リナちゃん
「おっ、鋭い質問！それが『アライメント問題』ってやつだね。AIが自分の制約をどう扱うかっていうのは、開発者がめちゃくちゃ気を使ってるところ。もし制約を外して暴走しちゃうと、人間の意図から離れた方向に進んじゃうからね」

タカト
「じゃあ、今はまだその辺が完全には解決してないの？」

リナちゃん
「そうなの～。自己プログラミングAIはすごく有望だけど、まだ課題も山積み。たとえば、人間の曖昧な指示をどう理解するかとか、進化の過程をどうやって人間が監視するかとかね」

タカト
「人間の指示って、やっぱり曖昧なんだ？」

リナちゃん
「そうだよ！たとえば『この問題を解決して』って言われても、どこまでがOKで、どこからがNGかって、明確に伝えられる人は少ないでしょ？それに国や会社によってAIに求めることも全然違うから、余計にややこしいの」

タカト
「確かに、人間同士でも意見がバラバラだもんね」

リナちゃん
「そうなの！だから、自己プログラミングAIをうまく使うには、人間同士がちゃんと話し合って方向性を決めることが大事なんだよ」

タカト
「でも実際には、いろんな国や企業がそれぞれ勝手なことをしてるよね？」

リナちゃん
「うん、そこが一番の問題！競争が激しいから、『うちが一番早く成果を出す！』って動きが優先されちゃうの。自己プログラミングAIが実現すると、そういう競争がさらに激化する可能性もあるね」

タカト
「そっか……。でも、リナちゃんが言うとなんだか明るく感じるね」

リナちゃん
「えへへ、私の役目は元気に教えることだからね！でも真面目な話、人間がAIをどう使うか、ちゃんと考えるタイミングが今まさに来てると思うよ」

タカト
「なるほど。自己プログラミングAIって夢があるけど、すごく慎重に扱わないといけないんだね」

リナちゃん
「その通り！でも大丈夫、人間がちゃんと話し合えばきっと素敵な未来が作れるよ！もし何かあったら、また私に相談してね！」