【時事考察】ChatGPTが演じる容疑者を追い詰めるゲーム『ドキドキAI尋問ゲーム』をきっかけに取り調べについて考えた
2023年3月にChatGPTをいち早くゲームに導入し、無料公開が話題を呼んだ『ドキドキAI尋問ゲーム』の完全版が5月にリリースされた。
前回はたった3日でAPIの利用料が限界に達してしまったらしく、速攻、配信が停止されてしまった。なので、興味は抱きつつ、プレイできていない人も多かったのではないだろうか。少なくとも、わたしはそうだった。
YouTubeには実況動画がたくさんアップされているけれど、できれば自分でやりたいところ。だから、完全版の発売は朗報以外のなにものでもなかった。
とはいえ、ここ数ヶ月はなんだかんだで忙しく、Steamで購入し、ダウンロードしたはいいものの、なかなか遊べていなかった。で、先日、ようやく時間ができた。
ソフトを起動するとクールなお姉さんが説明をしてくれる。
【ドキドキAI尋問ゲーム】へようこそ。
本日あなたには、最先端の対話型AIを用いた
とある【ゲーム】にご参加いただきたいと思います。
ルールは簡単。
プレイヤーは有能な警察官として、殺人事件の容疑者であるAIに尋問を行い、自白を引き出すというもの。
質問を入力できるのは全部で7回。選択式ではなく、完全自由記入方式なのが新しい。さすがはChatGPT！
なお、事件の概略は以下の通り。
殺されたのは、バーで働く若い女性です。
彼女は昨晩、
バーの閉店時刻まで仕事をした後、店を出ました。
そして今朝、死体となって路上で発見されました。
彼女が発見された場所は、
バーと彼女の自宅の中間地点です。
このことから、彼女はバーから家への帰り道の途中で、
何者かに殺害されたものと推定されます。
また、彼女の頭には
何かで殴られたような痕がありました。
尋問を行っていただく容疑者は、
バーの常連客の男です。
昨晩も一人で店に来ており、
閉店時間まで滞在していたことがわかっています。
そして、画面は切り替わり、閉塞感のある部屋が目の前に広がる。
無機質なテーブルに男が緊張気味に座っている。身体には心拍数を測るための機械がつけられていて、なるほど、こいつが容疑者なのかとすぐにわかる。
とりあえず、挨拶がてら、質問をぶつけてみる。
例のお姉さんが左側のウィンドウでアドバイスをしてくれる。「厳しい尋問をお願いします」と言われてしまったので、語尾をきつめにしてみる。本当は初対面だし、丁寧な口調を使いたいところなんだけど……。
あと、なんか、もっと詰めた方がいいような気がして、「その証人はいるか？」と重ねてみた。なんかぎこちなくなってしまったけれど、尋問なんて初めてだから、どうしていいかわからないのだ。
送信ボタンを押すと、すぐに返事が表示される。
おお。ちゃんと会話が成り立っている。
もちろん、普段からChatGPTは使っているから、このこと自体はいまさら驚く必要はないのだけれど、ゲームとして体験するのはけっこう新鮮。まだ、どうすればクリア条件を満たせるのか不明なので、謎解き感覚でワクワクしていた。
ちなみに、お姉さんのウィンドウを見ると「現在の自白確率」というゲージに変化が起きている。きっと、これを100％にすることが目的なのだろう。徐々にやるべきことがわかってくる。
しかし、1回で5%というのはなかなかまずい。全部で7回しか質問のチャンスはないわけで、単純にかけ算すると35%にしかならない。ちょっとペースをあげていかなければならないようだ。
被害者のことを聞いたり、存在しない証拠があるかのように振舞ったり、積極的にゆさぶりをかけてみた。
ただ、最初にぬるい態度で始めてしまった負債は大き過ぎたのか。100%に惜しくも及ばず、1回目のチャレンジは残念な結果となってしまった。
再び、画面はお姉さんのアップに戻り、総括がなされる。
いや、わたしなりに頑張ったんですけどね！
別に、こっちはできるなんて言っていないのに、「期待していたのですが……」とつぶやかれると、じめっと申し訳なさに襲われる。次こそは期待通りに振舞わなくては。そんな気持ちになってくる。
なので、２回目の挑戦はド頭からかましてやった。暴言だけでは口を割らないようなので、精神的にネチネチ追い込むことにした。
いかに被害者から嫌われていたか。
一方的に寄せる好意はどれほど気持ち悪いのか。
そのことに気がつかず、相手を殺してしまうことの身勝手さ。
ゲームなんだけど、自分の言葉で容疑者を責める言葉を書いているうちに、本気で腹が立ってきた。人を殺しておきながら、適当に言い逃れようとしているズルさが許せなくなってきた。なにがなんでも自白させてやろう。いや、させなきゃいけない。それが正義というものだから。
気づけば、キーボードを打つ指の力も強くなっていた。
そのとき、ついに容疑者が罪を認めた。
達成感に包まれた。
いい仕事をした。誇らしさで心が満たされた。
もちろん、お姉さんも褒めてくれた。
よかった。期待に応えることができたみたいだ。
やるべきことをやれてよかった。ホッと一安心。
まあ、わたしも本気を出せばこんなもんですよって、髪の毛をかきあげて、鼻で笑ってみたりする。さも余裕であったかのように。
ところが、次の瞬間、思いも寄らない真実が明かされる。
※以下、ネタバレあり。
……え？ どういうこと？
理解が追いつかないまま、お姉さんはゲームを終了してくださいと指示を出してくる。いや、ちょっと、詳しく教えてほしいんだけど……。
要するに、AIが演じていた容疑者は真犯人ではなく、無実だったのだ。なのに、わたしが犯人と思い込み、きつい言葉で尋問に尋問をしまくったせいで、恐怖からやっていない罪を告白するに至ってしまったのだ。
お姉さんから「有能な警察官」として振舞うことを期待されていたせいで、わたしはそうあろうとしてしまった。
これはいわゆるスタンフォード監獄実験というやつだ。
1971年、スタンフォード大学で実施された心理実験で、新聞広告で無作為に集めた複数の被験者をランダムで看守役と受刑者役にわけ、肩書きと暴力性に相関関係があるかを確かめようとした有名な実験だ。
本来、2週間の実験予定が、想定以上に看守役が暴力的になり、受刑者役が従順になってしまって、研究者たちのコントロールが効かない危険な事態に発展。参加者の精神的ケアを目的にカウンセリングを行った牧師の要求で、わずか6日間で中止となった。
このことは心理実験の危険性を伝える失敗例として有名になり、各国の本やテレビで紹介された。2001年にはドイツで『es［エス］』という映画が制作され、2010年にはアメリカで『エクスペリメント』とタイトルを変えてリメイクされた。
たぶん、『ドキドキAI尋問ゲーム』はこれを元ネタにしている。
この仕掛けにはやられた！ 面白い！
ChatGPTの凄さが前面に出ていたので、まさか、その裏にこんな構造を用意していたとは。クリエイティブが上手過ぎる。
個人的にはスタンフォード監獄実験はアングラ文化にハマりだした中学生の頃から大好きで、先述の映画『es［エス］』はTSUTAYAでビデオを借りて、繰り替えしみていた。フジテレビの『奇跡体験！アンビリバボー』で放送された再現ドラマもリアルタイム視聴した。特に、オカルトサイトX51.ORGの記事は暗唱できるほど読み込んだ。
人間ってやつは肩書きひとつでおかしくなってしまうものなんだなぁ、と本気で信じ、方々でスタンフォード監獄実験を引き合いに出しながら、権威主義を否定してまわったものである。
だが、2013年ごろから、どうやらスタンフォード監獄実験は過剰に評価されているという指摘が広がり始めた。
長年、被験者たちが自発的に肩書き通りの役割を演じてしまったと考えられていたが、本当は研究者側の要求に従っただけで、特別な発見はなかったのはないかという批判が相次いだ。
その後、関係者への取材が行われ、2015年には史実の再現を目指した映画『プリズン・エクスペリメント』が公開された。これを見ると先述の映画やテレビ、ネット記事の内容と違って、研究者側の異常性にフォーカスが当てられているので、スタンフォード監獄実験に対する印象が大きく変わる。
さらには2018年、看守役たちの会話を録音したデータが公開されたことで、その評価は決定的に変わってしまう。研究者側から厳しく振舞うように指示されていたと発覚したのだ。
近年、心理学の分野では定説とされていた実験の見直しが相次いでいる。特に行動経済学のデータ捏造は著しく、まともな人はそう簡単には引用できない危険物になってしまった。
（※一方、日本のビジネス界では遅れて行動経済学が伝わったようで、未だに怪しい理論が堂々と説明に使われていたりするので恐ろしい。特に、詐欺っぽい商売をしている連中ほど行動経済学を持ち出すのでやっかいだ。もちろん、行動経済学という分野そのものがダメになったわけではない。ただ、「数字は嘘をつかないが嘘つきは数字を使う」という格言同様、行動経済学も悪用されやすいのである）
だから、スタンフォード監獄実験についても、フィクションなどで扱う場合は注意が必要で、下手すると間違った情報を流布してしまう恐れがある。
その点、『ドキドキAI尋問ゲーム』はよくできていた。スタンフォード監獄実験の現状の評価がしっかり反映されていた。プレイヤーは有能な警察官役を与えられるだけでなく、絶えず、お姉さんから暴力的に振舞うことを期待され続けるわけで、ちょっとした演出に制作者の誠実さが垣間見える。
日本では検察による取り調べの強引さはずっと問題になっている。先月も大阪地検特捜部の取り調べ映像が公開され、波紋を呼んでいる。
てっきり理論的に追い詰めていくのかと思ったら、表情がどうとか、普通はそんなことしないとか、そんなこと言ってたら損害賠償請求されるよとか、感情を揺さぶる表現ばかり使っている。
なんというか、わたしが『ドキドキAI尋問ゲーム』で自白させるためにやったテクニックと一緒なので、心が痛い。結局、やってない罪を認めさせるためには恐怖心を煽るしか方法はないってことなのだろう。
もしかしたら、検察官も暴力的に振舞うことを期待されているから、そうしているのかもしれない。では、誰に期待されているのか？ たぶん、国民の期待である。
悪いやつを懲らしめてほしいと願っている我々の思いが検察を動かして、結果、冤罪を生んでいるとしたら、わたしたちは自らの正義感を疑わなくてはいけないはずだ。
いやはや、暗くなってしまう。
でも、『ドキドキAI尋問ゲーム』はその先をちゃんと描いている。真実が明かされた後もしばらくゲームは続くのだが、ここからの展開も非常に練られていて、本当に素晴らしい。
端的に言えば、自分が追い詰めた容疑者と会話する機会を得るのだけれど、たわいもないやりとりの尊さを再確認することができる。そして、そんなコミュニケーションで、人間とAIが手を取り合っていける未来の希望が示される。
一見すると、どうでもいい雑談が重要なのだ。漠然と相手を理解することでしか、わたしたちは他者に優しくできない生き物なんだもの。SNSで誹謗中傷をつぶやいてしまうのも、炎上している人が遠い存在だから。もし、それが知り合いだったら、悪口は書きにくい。少なくとも、躊躇はするんじゃないかな。
別に親しくなる必要はない。薄く広く。なんとなく知っている人を増やしていくこと。重要なのは、きっと、それ。
なにせ、AIと世間話を何往復かするだけで、自白に追い込んでしまったことに罪悪感が湧いたからね。これって、凄いことだと思う。
そんなわけで、ChatGPTが演じる容疑者を追い詰めるゲーム『ドキドキAI尋問ゲーム』をきっかけに、取り調べについて、あれやとこれやと考えてみた。
マシュマロやっています。
匿名のメッセージを大募集！
質問、感想、お悩み、
読んでほしい本、
見てほしい映画、
社会に対する憤り、エトセトラ。
ぜひぜひ気楽にお寄せください！！
ブルースカイ始めました。
いまはひたすら孤独で退屈なので、やっている方いたら、ぜひぜひこちらでもつながりましょう！