AIはこわいのか？

生成AIが話題になっています。
広島で開催されているG7サミットでは、生成AIの活用ルールが話し合われるらしい。5月頭には、AIのゴッドファーザーと呼ばれるジェフリー・ヒントン氏がGoogleを退社しましたね。生成AIのリスクに対し自由に警笛を鳴らすためだそうです。そんな中でも、横須賀市はAIソフトの一つであるChatGPTを全庁で活用するための実証導入を始めています。なんだか世の中、どうなってんだよって感じ。

そもそも生成AIって何なのと言っても、ちょっと一言ではまとめられないんだよね。それくらい、多種多様なAIがすでに巷にあふれちゃってる。
今、問題視されているのは、質問などをテキスト入力するとそれらしい回答をしてくれるAI技術（t2t）と、欲しい映像の情報をテキスト入力することでそれらしい画像を出力してくれるAI技術（t2i）の二つでしょう。
前者は横須賀市も導入したChatGPTが有名で、入力した質問に対してインターネット上にある様々な情報を参照して、まるで人が話すように回答してくれる。ネット検索を効率的にできるうえ、その得られる回答テキストを企画などの原案として活用したりすることができる。

Introducing ChatGPT

また、後者は昨年くらいから騒がれているMidjourneyとかStableDiffusionなどで、欲しい画像の情報を入力するとインターネット上にある様々な画像を学習したエンジンが要望に沿ったと思われる画像を出力してくれる。絵を描くのが苦手な人でも目的に沿う画像を作り上げることができ、プレゼンなどで状況説明に使う画像に使ったりすることができる。

Midjourney

こういう話を聞くと「便利じゃーん！」って思うんだけど、じゃあ何が問題なのよってことでしょ。
ChatGPTなどが出す回答は、そもそも正しいのかっていうと、そうとも限らないわけ。AIはインターネットの情報をかき集めて文章を作るんだけど、それが正しいかどうかなんて判定はしないわけですよ。だから案外と間違った情報が含まれた回答だったりする。じゃ、その回答はだれが責任をもつのか、そもそも何を参照にした情報なのかが、まったくわからない。そんな間違った情報を大事なことの判断材料にしたらどうなっちゃうのか、またAIがさらに学習して人間を超えるような知能を持ち始めたら。。。そんなの怖いじゃないかよ！ってことなわけです。
じゃあ、Midjourneyとかはどうかというと、同じことで、ネットなどにある画像を学習して新たな画像を導き出しているだけ。そこに創造性はまったくなくて、この表現が素敵だとかそういう感性はなにもなく、まさに導き出している（創造しているのではない）。そもそも、それだとその画像の著作権は誰にあるのかもわからない。学習に使われた画像を描いた人にあるのか、それともAIを操作した人にあるのか、学習して描いたAIにあるのか。。。そんなのがどんどん画像を山のように作って、見た目はとても良い感じの画像が出回ってしまったら、絵描きさんはどうすんの、職を奪われちゃうじゃん、そんなの怖いじゃないないかよ！ってことなわけです。

そういう怖さから開発や利用する上で規制線を張りましょうよっていうのが、今回のサミットの話題だったり、いろいろな団体が騒いでたりする理由なんですね。

私は映像系の人なので、やっぱりこういう騒ぎを目にして思い起こすのは、ジェームス・キャメロン監督が1984年につくった「ターミネーター」って映画。この映画の中で、AIは学習した結論として「人類は世界において不要」と判断し、人類を絶滅させるために戦争を起こすんですよ。詳しくは映画を見てもらうとして、そういう未来が現実的に起きそうに思える状況になっているのが、今の世界なんですね。怖いですね、怖いですね。

さて、みなさんはどう思いますかね？
t2tの方はさておき、t2iの方はどうでしょう。
そもそも、絵を勉強する時って、必ず行うのが模写でしょ。いろいろな画家が師匠や憧れる画家の絵を模写して、そこから技術を学ぶわけです。ゴッホは浮世絵を模写していますし、風神雷神図だって歴代の画家が描いたものがいくつかあります。それって、だれが著作権を持つかなんてなくて、画家たちは自分たちの技術を向上させるためにやるだけなんです。t2iを使うことで、今まで自分では技術的に描くことができなかった人たちが、最新技術の絵筆を手にしたって思えば、それは素晴らしいことではないんですかね。

一番問題なのは、そういう「絵を描く」という情熱がなく、ただAIで「簡単にできんじゃん！」ってやっちゃう人たち。先ほども書いたように、AIは善悪の判断などなく、良いかどうかの感性もなく、ただ導き出すだけなので、それらを判断するのは唯一「操作をする人」でしかない。結局は、操作をする人の人間性の問題なんですよね。

だからこそ、そういう人たちを規制するために法律等で縛りましょうというのが今の騒ぎの本来の趣旨のはず。
ただ、今までを顧みると、結局そういう法律をつくって何が生じるかといえば、本当にやりたい人たちの自由を奪ってしまうだけ。悪い奴は抜け穴を見つけてやっちゃうんですよ。それって意味あるんでしょうかね。

AIは道具の一つにすぎないと思うんです。
米国では銃規制が叫ばれていますけど、そこでいつも出てくるのが、人を殺すのは銃ではなくて、引き金を引いた人だってこと。ナイフは自分で人を傷つけることはないし、どんなものであっても殺意のある人が使えば凶器になる。
議論するのはとてもいいこと。どんどん議論してほしいです。でも、AIを怖いというのは話が違うんじゃないかなって思うんですよ。そこをちゃんと理解して、正しく議論してほしいものですね。間違ってたり、偏ったりした意見を鵜吞みにするんじゃ、それはすでにAI以下、人類は滅ぼされても文句は言えないんだって思います。