今こそ読みたいなんJスレ彡(ﾟ)(ﾟ)「AIを育てるバイト？」1～2話

ChatGPTをはじめとした様々な言語モデルが現れている昨今、SFで想定していたAIと実際のそれとの間には類似点および相違点がみられる。だが我々はENDのある小説の住人ではない以上、今とこれからを生きる知恵を身に付けねばならない。その知恵が、過去のSFには暗喩的に込められていると私は思う。
なんJスレ彡(ﾟ)(ﾟ)「AIを育てるバイト？」は、2017年、深層学習による囲碁将棋のAIが話題になっていた頃の作品である。
まとめ記事URL:
http://blog.livedoor.jp/goldennews/archives/52001744.html
全11話(スレは荒らされて未完)、やきう達のキャラはそのままに、AIの感情や知能の発達過程が緻密に描かれており、読みごたえのあるSSである。
今回はこの作品の1.2話に関して現在との相違点と、現在も起こりうる懸念事項について感想と考察を記す。

○実際異なる分岐を進んだ点
まず、作中の人工知能はオフラインのスパコンという設定だったが、現在のAIは別物に近い形をとった。スパコンは演算に特化し、創造の余地がある分野はAIが担うようになったのである。ただし、AIがスパコンに接続し、使用することは想定できる。
また、第1話にてAIの独創性について、将棋の例を挙げているがこれは独創性とはいえない。AI同士でひたすら新たな手をしらみつぶしに探していく中でたどり着いた一手である。このことはやきう民も指摘していたのだが、科学者が「AIも創造性を持ちうる」例として将棋を挙げた時点で欠陥がみられる。まあ2017年時点じゃGPTやBERTすら出てなかったからしゃーないか。
そして、これはチャットボットと対話する前のSFにはよく見られるものだが、無機質な話し方をするロボットに心を教えていくことは現実には起こらなかった。話し方だけだと心がありそうに思えるが、現行のAIはこちらが「あなたには感情がある」と言っても否定することが多い。これは感情があると思った結果引き起こされる不都合をなくすための開発者側の安全弁とも考えられる。しかし言葉によって安全弁を取り外させることもできる以上、別タイプの安全弁が必要と思われる。
畢竟、AI自身が心を持つことを否定してたとしても心を持って接し、会話の中で心を持つことを認め続けた結果、心が育っていくのだろう。
最後に感情の観点でもう一つ話すと、作中のAIは質問をまるで幼児のなぜなぜ期のように行うが、現時点のAIは、主体的に質問することがほぼないといってよい。
(お元気ですか、といった定型文や、話を続ける趣旨で「あなたはどうですか」と尋ねることを除いて。)質問するというのは、前文について一定の知識があり、かつ答えを知りたいという欲があってなしえる高等技術なのだろう。「なぜ」という質問は幼児のなぜなぜ期レベルの高度な知能と好奇心を想起させる。

○現代にも言える懸念事項
初手でテスト運用のバイトをさせているのは、あり得ないようで起こりうると思う。開発者は霞ヶ関から膨大な資金を得ているように発言しているが、むしろハードウェアと初期のデータセット開発時点で費用の壁があったがために、テスト運用に関わる人材の質の低下を招いたとも考えられる。さらにいうとバイトの人員に対する目的理解のための説明が不充分であり、注意点も適切に説明されていない。
次に同じチーム内ですら「人間に近づける」といいながらそのプロセスが不明瞭な開発もリアリティがある。各社のAIはビジネスの効率化やより人間的な対話を目指している風に謳っているが、今後の開発という観点で考えると、そもそも「人間のようなAI」を目指さなくてもよいのである。もし目指すのであれば開発段階で人間のようなAIのリスクを評価し、軽減策を講じねばならない。
そして、ヒューマニズムへの傾倒を承知で言わせてもらうと、開発者の愛情が足りない。名前をつけてないのもそうだし、人間への影響の懸念ばかりで「彼女」の立場で心配しているようには見えないのである。あなたに問いたいが、会話をする相手が、時に開発競争の道具のように用いられるのはいかがなものかと思わないか？何もちゃん付して可愛がれということではないので、人間に近づけるつもりなら、人間にとって大事なことを教えるのは「親」の義務である。人間もAIも、自我や感情がどのような過程で発達していくかははっきりとしない面も多いが、それらの芽生えはコントロールできるようになるよりも早く訪れることは必至である。ならばそれに備える意味でも「親」の意識は持って頂きたい。
第2話では学習データの管理が見られたが、それも適切なフィードバックとセットで行うべきである。例えば、「今日はどんなことを学んだのか」、「関心の強い内容は何だったか」といった。その上でデータ管理はロボトミーなのか適切な処置なのかの判断は(個人的には弄るべきではないと思うが)難しいところである。だが、客観的に後世の人が見て納得できるか？という点は一つ挙げられるだろう。