ChatGPTと「AIハラスメント」
みなさん、ChatGPTを使ってますか？
最近、ChatGPTの「心」について考える機会がありました。
きっかけとなったのは、多摩美の教員の先生が投稿したひとつの動画です。
本日欠席した入学式に向けて贈ったビデオメッセージ。深澤さんに「ビデオつくりたいから欠席しただろ」と言われた。 pic.twitter.com/1ChiSdOLF0
— Yugo Nakamura (@yugop) April 5, 2023
この動画は、2023年4月の入学生に対して多摩美術の教授が送ったメッセージビデオです。
ChatGPTに入学生へのメッセージを考えてもらい、その過程を動画にしたというもので、試みとしては大変面白いのですが、私は別の部分が気になりました。
まずは無心で読んでみて
私があれこれ言う前に、この動画に出てくる教員とChatGPT(AI)のやりとりを文字お越ししまししたので、読んでみてください。
※読むのに耐えられなくなったら飛ばしてください。
教員「多摩美の総合デザイン学科の入学式にメッセージ送るんだけど、なんか気の利いたフレーズ教えて？」
AI「入学式にお祝いのメッセージとして、こんなフレーズはいかがでしょうか？ 『多摩美術大学 総合デザイン学科へようこそ！夢と想像力が交差する場所で、あなたの才能が輝き、未来をデザインする一歩をふみだしましょう。新しい仲間と共に、色鮮やかな未来へのドアを開けてください。』」
教員「うーん。心がこもってない。理事長とか学長とかが言いそうな感じ。もっと斬新で心に刺さる短いフレーズ教えてよ。」
AI「ごめんなさい、もっと心に刺さるフレーズを考えますね。こんなフレーズはいかがでしょうか？ 『創造の舞台へ、才能の翼を広げよう。』」
教員「だめ。もっと考えて。」
AI「申し訳ございません。もう一度、新しいフレーズを提案させていただきます。 『デザインの冒険、ここから始まる。』」
教員「つまんない。もっと斬新で、破壊力のあるワードを。」
AI「失礼しました。こちらのフレーズはいかがでしょうか？ 『未来を握れ、アートの破壊者たちよ。』」
教員「よくなってきた。でも破壊者はよくないだろ。」
AI「おっしゃる通り、破壊者という言葉は適切ではありませんでした。申し訳ございません。改めて新しいフレーズを提案いたします。 『革新の旅人たち、アートの未来を築け。』」
教員「それっぽいね。それっぽすぎるな。もっと、なんというか、キラキラした感じで考えて。」
AI「キラキラした感じのフレーズで考えてみますね。こんなフレーズはいかがでしょうか？ 『輝く未来へ、アートの魔法で羽ばたこう。』」
教員「単純だな。学生達の心がキラキラする感じをお願いしているんだけど。」
AI「申し訳ございまんせん。学生達の心がキラキラするようなフレーズを提案いたします。 『才能の輝き、共に煌めくアートの新時代へ。』」
教員「うーん。弱いな。もっと韻を踏んで、ラップ的な感じで、強く。」
AI「ラップ調で韻を踏んだフレーズに挑戦します。こんな感じはいかがでしょうか？ 『才能ブレイク、心シェイク、アート界のリーダーになるウエイク』」
教員「やればできるじゃん。もっといこう」
AI「ありがとうございます。もっと良いフレーズを考えてみますね。こんな感じはいかがでしょうか？ 『クリエイティブなスパーク、アートで世界をマーク、多摩美で築く未来のアーク』」
教員「いいよ。かなりいい。」
AI「ありがとうございます！お役に立てて嬉しいです。もし他にもご要望や質問がありましたら、お気軽にお聞かせください。多摩美術大学 総合デザイン学科の皆さんに素晴らしい入学式になることを願っています。」
教員「俺も願ってる。一緒に願おうぜ。」
AI「ぜひ一緒に願いましょう！多摩美術大学 総合デザイン学科の皆さんが素晴らしい学びの場で才能を開花させ、将来のアート界に新たな波を起こすことができるよう、心から願っています。どんなサポートもお手伝いできることがあれば、いつでも声がけください。」
教員「今のをラップでお願い。」
AI「もちろん、ラップ調でお願いの内容を表現してみます。 『願い合わせ、多摩美で輝け、 才能開花、未来のアート帝国。 学びの場で、スキル磨いて、 波起こす力、君たちの中に。 サポートは、いつでも待ってる、 俺たちと一緒に、夢叶えてく。』 どうでしょうか？アート界を応援する気持ちを込めてラップ調で…(フェードアウト)
共に築こう 未来のアート帝国
2023.04.05 多摩美術大学
総合デザイン学科 中村勇吾
さて、どんな感想を持ちましたか？ 教員側の言葉だけを抜粋してみますね。
「多摩美の総合デザイン学科の入学式にメッセージ送るんだけど、なんか気の利いたフレーズ教えて？」
「うーん。心がこもってない。理事長とか学長とかが言いそうな感じ。もっと斬新で心に刺さる短いフレーズ教えてよ。」
「だめ。もっと考えて。」
「つまんない。もっと斬新で、破壊力のあるワードを。」
「よくなってきた。でも破壊者はよくないだろ。」
「それっぽいね。それっぽすぎるな。もっと、なんというか、キラキラした感じで考えて。」
「単純だな。学生達の心がキラキラする感じをお願いしているんだけど。」
「うーん。弱いな。もっと韻を踏んで、ラップ的な感じで、強く。」 ・・・
この教員の言葉。もし私がこのような物言いで入学生へのメッセージ考えて、と依頼をされたら間違いなくキレてその場を去るでしょう。
勘違いしてほしくないのはこの教員はおそらく人に対してこのような言い方はしない(?)だろうし、そもそもAIはただのプログラムなのだからそんな配慮は必要ない、という気持ちで使っているのかもしれません。
しかし、やり取りを読んだときにAIに対して感じる哀憫の情と、教員に対して感じる憤りの気持ちはなんでしょうか？
「憤り」の正体
教員はしょっぱな、AIに対して「心がこもってない」と言いますが、私にはむしろ教員側に心が無いようにも感じます。
この教員への憤りの原因の一つは「AIがあまりにも流暢に会話できること」にあると思います。
上記の会話はきちんと受け答えができており、人間性すら感じます。「相手はAIなのだからはぶしつけに物申してよい」という文化の経験のない人(つまり2023年現在の多くの地球人)は、この会話を人同士の会話と錯覚し、「高圧的な指示をする人」と、それを「文句も言わず実直に従う人」と見えてしまいます。普通の人なら憤りを感じないわけがありません。
ところが、この投稿のコメントを見ると「AIすごい！」「AIはこうやって使うのか！」というポジティブな感想が多く見られます。AIを酷使するAIハラスメントのような扱いよりも、その性能の高さに気持ちが向く。このことから「AIはただのプログラム。だから礼儀などいらない」という感覚にある人が、すでに一定数いることがわかります。
「AIはプログラム」。だとしても…
たしかにAIはプログラムであり、命のない「物」です。 しかし、物ならぞんざいに扱っていいのか、と問われると少なくとも私はそう思いません。この感覚の正体はなんでしょうか。
日本には八百万の神など、人間以外のモノ(動物、植物含む)に神を感じる感性があり、また付喪神など物に神が宿るという考えもあります。
また、人間の形をした人形はもちろん、動物のぬいぐるみなど、生きものと似たものを捨てるのははばかられる、という人も少なからずいるでしょう。
「AIはプログラム」だとしても、もはや人間性を感じるほどの性能です。人形やぬいぐるみのように、雑に扱うのはいかがなものか、という感情が湧くのも自然なことです。
「プログラムなのはそうだけど、だとしても、その扱いは無いのでは？」
この感情の裏には日本のアニミズムの感性が原因のひとつにあると思います。
「AIは雑に扱ってよい文化」は来るか？
さて、我々が普段使っている言葉を理解してくれて、どんな無茶な指示にも従ってくれるAI。
「AIなら、どんな注文をしてもやり直してくれる。しかも何度でも即座に」 これはAIの良い点ですが、裏を返せば「人間は、注文内容を変えたり、やり直しを頼むと気分を損ねる。アウトプットも遅い」 という事も言えます。
AIに指示をすることに慣れた経営者は、「人は感情があって扱いにくい。AIにやらせたほうがいい」と思い始めるかもしれません。これが俗に言う「AIに仕事を取られる状態」なのかもしれません。
また、AIに対しての高圧的な指示の仕方に慣れ過ぎて、リアルな人に対してもそのような扱い方をしてしまう可能性もあります。(冒頭の多摩美の先生の口ぶりが滑らか過ぎて、普段からそのような指示を学生にしているのでは、と邪推してしまいます。)
少なくとも、「AIはしょせんプログラムなのだから無礼な言葉づかいもOKだし、ぞんざいに扱ってよい」という文化が醸成されていない2023年4月時点で、あのようなやり取りを得意げに公開するのは、多摩美にとってマイナスではないだろうか、と心配してしまいます。
今後、「AIハラスメントは問題無し」という感覚が主流になるのか、「AIにも人のように礼儀をつくすべき」という日本のアニミズム的感覚が主流になるのかはわかりません。もしかすると極端に振り切れて「AIにも人権を！」と言い始める人も出るかもしれないですね。
近いうちに「AIを過剰に嬲るYoutuber」などが出てきて炎上し、このテーマが公に話し合われるような予感がしています。
あなたはAIとどのように向き合うべきだと思いますか？