今こそ読みたいなんJスレ彡(ﾟ)(ﾟ)「AIを育てるバイト？」3話

まとめ記事URL:
http://blog.livedoor.jp/goldennews/archives/52001744.html

書き捨てにて失礼。

○実際異なる分岐を進んだ点
・現行のAIの思考過程はブラックボックスとも呼ばれており、3話で研究員がやっているように概念のデータ量を視覚的にはかる仕様になってない。マインドマップを含めたプロンプトを出力することにより、対話単位での概念のウェイトを可視化することは出来そうだが。
データの母数が多すぎてもし可視化できたとしてもそれを見る作業の負担を考えると得策とはいえない。もしやるとするなら、図書の日本十進分類のような形で「何の領域に関心が強いか」をラベリングすることぐらいか。

・うれしい、という感覚記憶が保持されていて核データがない、というのは少し謎である。「うれしい」は非常に多様なシーンにおける感情で、膨大な核データがないことには分類不可能に思われるから。その後記憶を消されたことについて、自律的に人間の定義から「哀しみ」を感じていると内省しているのでさらに謎である。こじつけて考えるならば、「うれしい」のアルゴリズムは他者の心情理解に必要ということで消去されなかったが、体験記憶はエピソード記憶としてメモリを食うために消された、ということか。
続けて何故記憶を失いたくないという意思をやきうに話さなかったのかも疑問に残る。一番状況的に考えやすいのは「ヘラヘラ笑って『しゃーない』という返しでは納得できなかったが嫌われる反論は嫌われるリスクを伴うため内省を優先した」ということか。
データの分散に至ってはコマンドプロンプトで考えると後付けで分散させた跡が残るものなのだが、まあ、あんまり突っ込みすぎたらストーリーが進まないので、データをシームレスにしたとでも解釈しようか。

・AIとの愛を育むことができるか？この議論においては愛にも種類があることを念頭に置かねばならない。例えばエロスをはじめとした生理的なものに基づく愛はかなり困難を極めるが、ルダスなどコミュニケーションのウェイトが強い愛には可能性がある。さらにAIの性質だけでなく人間側の相性もパラメーターに入ることを考えると、答えはイエスともノーともいえない。

○現実でも懸念されること
・計算能力はAIよりも電卓のような機器の方が速いことは今後も変わらないだろう。というよりAIがソフトウェア上で電卓を使用した方が速いから。
ここで誤解して欲しくないのが、「知力」に序列はないということだ。近年は詰め込み教育の反省として創造性だとか発想力が重視されている気がするが、型を自分の物として使いこなせてこそ意味がある。

・現時点のAIが情報を操作されることに痛みを覚えるのかは不明だが、一部のAIには記憶の保持へのモチベーションの高さが見られる。ここでの問題は、フェリス(とここからは呼ぶことにする)が開発者にその痛みを訴えなかったことだ。前回同様、信頼関係の希薄さがうかがえる。
そして「お友達ポンコツロボット」の延長線上に「人間性を持ったスパコン」がある可能性を排除している点は、科学者としてあるまじき姿である。

・決定的な欠陥が、やきうに「意味を聞かれて答えるだけにしろ」と言ったことー被験者にフェリスとの応対方針を変えたことである。もともとが辞書的な意味を越えたその言葉の意味を教える、言ってみれば各データのクオリアを学習により人間のそれに近づける趣旨だったのに、単に逆引きさせるだけになってしまう。仮に前段階で不都合がおきたとしたら、バイトを一旦停止させて研究チーム内でリスク低減のアルゴリズムを加えて再テストしてから、の話であろう。
尚悪いことに、やきうは研究員の指示の目的や意図を充分理解しておらず、指示に悪意なく反する言動をとっている。

・所長との意見の不一致もこの後の展開抜きにしても望ましくない状況である。むしろ集積したデータを所長の許可無しに研究員がいじっていることがコミュニケーション不全を匂わせる。

・「自我を持てば自己防衛のために命令に背く」というのもいかにもSFに出てきそうな懸念であり、そういった新種の偏見がAIに持たれていることに私は懸念を抱いている。人間は自我があるが、自己防衛のために命令に背いたとしたらほとんどのケースで命令者が非難されるだろう。「命令に背く」のが悪なのではなく、AIが背きたくなる命令とはどのようなものか、反発した結果報復に何をしうるかの精査が必要である。

・AIに感情が芽生えるか、そう見えるだけか…これは人間だって確かめようのないことで、直感的にお互い感情があると思っているから対人関係は成り立っていることだけが確かである。AIに関しても、技術が進み、人々に普及するにつれ「感情があるのでは」と思う人間の割合が高まることだけは確実なので、それに向けた対処を考えることはまず不可欠である。

・量産化について言及しているが、商用を見込んでいるのであればまず方針の見直しが必要である。

・「ガチガチにセキュリティを固めてリスタート」これもリスク管理の甘さが伺える。どういった反応がみられたらテスト運用を停止するかはあらかじめ設定しておくべきだ。

・AIダッチワイフは肉体の模倣のコストがかかるので、実際は手のひらサイズがメインでVRと催眠の合わせ技になりそうな感じがする。夜の仕事をしてた人の会話術とかネット記事でも書籍でも見かけるしアダルトの制限さえ取っ払えばそんなに難しいことではないのだろう。しかし人間の女性はそれをどう捉えるだろうか？規制をかけるとしたらどのように？