AIエージェントとID問題：信頼できるデジタル社会へ
OpenAI がついにAIエージェント機能「Operator」をリリースしました。1つだけ公式サイトより解説動画を貼っておきます。
既に競合他社も近いものを出しているため、機能としての驚きはないですが、生成ＡＩ分野で最大ユーザを誇るツールのためインパクトは大きいと思います。
エージェントという言葉は恣意的に使われていますが、OpenAIによると、人間の指示に基づき作業を代行してくれる、という意味合いです。言葉の定義論は不毛なのでそれ以上は突っ込まないでおきます。
同じく解釈がまちまちなのが「AGI」で、OpenAIはこのロードマップも以前に発表しており、その中にエージェントも位置付けています。
今年はエージェントブームに沸いてますが、同時に配慮すべきなのはID問題です。つまり、オンラインでの振る舞いが人間なのかエージェントなのかが分からなくなることによるリスクです。
冒頭の解説動画を見ていただければわかりますが、指示によっては人間でなくエージェントがオンラインにアクセスするため、ホスト側からは人間かどうかを検知することは難しくなってきます。
実はOpenAI CEOサム・アルトマンは、彼が手掛ける別事業「World」でその問題に対処しようとしています。
Worldは、元々ベーシックインカムを目指したプロジェクトで、虹彩を使った生態認証方法でもめたこともあります。
2024/10にその根幹技術を見直して、本人照合サービスに軸足を置いているようです。併せて名称から「コイン」を外しました。
さて、この動きとエージェントのつながりですが、
Worldは登録IDとエージェントをリンクさせる、
動きを推し進めています。
一見怖いと感じるかもしれません。ただ、前述の通り、もはやオンラインの振る舞いが本当にその本人かその委託を受けたエージェントか、はたまたなりすましなのかが分からなくなっています。
であれば、エージェントまで認証させたほうがリスクは少なくなります。（ユーザ、アクセス先サービス提供業者の双方にとって）
ということで、Worldは今現在進行形で進んでいるエージェント革命で顕在化するリスクを減らす関所のような役割を担っていこうとしています。
これはオンラインだけでなく物理世界も織り交ぜた、文字通り世界のID管理サービスです。
まずは自身のオンライン作業をどこまでエージェントに委ねるか、考えてみようと思います。