今後、AIアライメントがすごく重要になる

１ヵ月ほど前にテスラがリリースした FSD(Full Self Driving) v. 12.3 が話題になっています。前バージョンよりもかなり進化したようで、一般道をほぼ問題なく走れるようです。ただ、工事中のコーンが立っている高速道路の出入り口や、高速道路の出口の線が明確でないところなどは、まだ判断がうまくつかないようです。

とは言え、このレベルですでに充分使い物になりそうですので、年内には完全自動運転が実現しそうな勢いです。

僕はこの高速の出口でまごつくテスラ車の姿を見て、とある疑問が浮かびましたそれは、今後あらゆるAIに実装されていくであろう、倫理観の問題です。

AIが持つべき倫理観

先日、Googleが満を喫してリリースした生成系AIのGeminiですが、あまりにもWoke過ぎると話題になり、リリース後わずか数日で画像生成の機能が落とされてしまいました。「ジョージ・ワシントンの顔を描いてくれ」と頼むと黒人の顔を描いたり、ナチスの兵隊のように白人男性しか存在しなかったはずの人々を描かせようとしても、かならず有色人種や女性を描くのにのです。そして、絶対に白人を描こうとしないのですから、これではWokeと言われても仕方がありません。

なぜこんなことが起きてしまったのか？

一言で言うと、AIアライメントのミスです。

AIアライメントとは、AIが不適切、あるいは有害なアウトプットを出力を生成しないように調節を施すことです。その調節が行き過ぎてしまったせいなのか、意地でも白人を描かないAIができてしまったと言うわけです。

ただ、ここまでの大失敗を平然とリリースしたところを見ると、ミスではなくて故意なのでは？　という疑問も湧いてきます。

ところで、自動運転車には、どのようなアライメントが施されるべきなのでしょうか？

※このマガジンでは、読者の皆さまの役に立つ視点の提供を心掛け、シリコンバレー、フィリピン、日本の３拠点で生活や仕事をする中で得た気づきを書き綴っています。この記事は単品で300円ですが、月1000円で定期購読すると、１ヶ月20本くらい読むことができます。