ロボット工学三原則の具体的な実装についての素案
おことわり
強いＡＩ弱いＡＩ
まず、強いＡＩ弱いＡＩについては議論しません。
自身の立場を表明するならば、「知能とはただの反射に過ぎないだろう」という立場です。
科学的には、「自分には反射ではない知能がある」という反証可能な根拠を挙げる必要があるのではないでしょうか。
フレーム問題
また、フレーム問題という大きな壁も存在するのですが、それも横に置いておきます。
フレーム問題は全知を必要とするため、ＡＩに限らず人間であっても完全解決できないという説もあります。
事実、人間があらゆるフレーム問題に対処できるという「証拠」は知りません。
つまり現時点ではフレーム問題は認知能力に関する限界の問題であって、人と機械を区別できるチューリングテストとしての指標ではないと考えます。
むしろ処理能力の向上により機械の問題対処能力はじきに人間を超えてしまうと確信しています。
序文
人間はＡＩを制御下に置くことが可能なのか？
ＡＩを生み出している現代、フランケンシュタイン・コンプレックスは大きな問題として立ちふさがっています。
人間のためのＡＩを作ろうとしているのに、それが危険を生み出してしまうことを恐れるのは当然です。
危険を防ぐための安全装置、倫理観が必要になります。
ＡＩに倫理観を持たせるアイデアとしては過去の創作ではいくつも考案されています。
アイザック・アシモフのロボット工学三原則や、手塚治虫のロボット法が有名です。
→ https://ja.wikipedia.org/wiki/ロボット工学三原則
しかしながらその実態はといえば、所与の制約があるとしか説明されません。
もしくはジェイムズ・P・ホーガンの未来の二つの顔のように、制約が存在しない場合に起きることを描く作品となります。
具体的な実現可能性のある構造を考案した作品は、寡聞にして聞いたことがありません。
それらは娯楽のための創作物ですから、ハードＳＦと言われる狭い分野でなければ、倫理観の機構の解説には商業的な意味が無いため当然です。
そこで本稿では、工学的なアプローチとしてロボット工学三原則の基本的な実装方法について考察します。
すべての作品や研究論文を押さえているわけではありませんので、すでに提案されているのかもしれませんが、その場合には笑ってご容赦ください。
問題点
三原則を行動規範として課題解決ＡＩに直接に盛り込もうとするアプローチは工学的にナンセンスでしょう。
なぜなら倫理観のベースのＡＩをもとに転移学習して課題解決ＡＩを作成したとしても、出力結果に倫理観が適用されるのかは確証できないためです。
実際のところ課題解決ＡＩに倫理は邪魔でしかなく、しかし実施には倫理観は確実に適用されなくてはなりません。
提案
ですから、ここで石ノ森章太郎の人造人間キカイダーでの良心回路（ジェミニ）というアプローチを採用します。
良心回路も実はそれ自体に意味はありません。あれは神託機械であって何も示唆していませんので。
→ https://ja.wikipedia.org/wiki/神託機械
しかし、構造的に見ればこの神託機械的なアプローチは意味を持ちます。
ＡＩ本体に倫理観を組み込むのでは問題が複雑すぎて手に負えませんが、良心回路ならば問題を切り分けられるからです。
問題解決ＡＩの計画に対して、倫理観ＡＩが実行可否を判断するというコンセプトです。
この方法であれば、万一の事故の発生時でも倫理観ＡＩのログが解析に役立ちます。
この倫理観ＡＩは提唱者にならい良心回路と呼称しましょう。
良心回路
次は、良心回路をいかに実現するのかという問題です。
良心回路もまたＡＩですので、正しさを測る基準は「尤もらしい」ということです。
設問に対して何％の割合で「正しい」かを推定できる機械を作ろうという目標です。
概ねＡＩの学習では教師あり学習が用いられ、それには教師データが必要です。
「正しい」もしくは「正しくない」ことが分かっている設問が教師データです。
コストの許す限りの教師データを使います。
教師データ
この教師データの蓄積が良心回路の品質を左右しますが「正しい」には正解は存在しません。
尤もらしい正解を作成するために、人間が倫理観と呼んでいる規則を利用します。
具体的にはＡＩに状況をランダムに作成させて「人間が解答することで」作成していく必要があります。
人間が介在する以上、偏見などによるバイアスが危惧されます。
これには良心回路の教師データをすべて公開し検証することで、尤もらしい「正しさ」を将来的に担保できると考えます。
そのため設問の意味論的な分類などを自動化した査読システム、開かれたレビューが必要となるでしょう。
末文
短い文章ですが、工学的にロボット工学三原則を組み込んだＡＩを作るには、以上のコンセプトは尤もらしくはないでしょうか？
問題解決ＡＩの学習の際にも良心回路による判定を行うことで、解決策の自由度は低下しますが良心回路の拒否に伴う処理遅れを低減させることも可能でしょう。