【生成AI小話】法律と倫理を混同してはならない
悲しいよ人類。この程度の話を改めてすることが悲しい。
最近は生成AIに関する諸々の言説が過熱しているように思う。そこらでよく見かける論法にはこんなものまで含まれている――「学習することは法律で認められている」ゆえに「学習の禁止を求めるのは悪いことだ」。なわけない。
何が間違っているか直感的にわからないなら、インターネットで管を巻く前にやるべきことがある。読書だ。哲学だ。認識的不正義とか。
図書館で本を読む手間を惜しんでインターネットで素人の記事を漁って満足している人もいる。本を読め。とはいえ素人の記事だってなにを読むべきか気付くヒントくらいにはなるだろう。この記事はそういうインスタント素人記事だ。
法律と倫理を混同してはならない
合法性と合理性を混同してはならない
権利と限界を混同してはならない
復唱。法律と倫理を混同してはならない。合法性と合理性を混同してはならない。権利と限界を混同してはならない。覚えたね？
法律と倫理を混同してはならない
具体例を挙げよう。生成AIの善し悪しを巡る紛糾だ。ある人が「生成AIの基礎学習のために著作物を利用することは法律で認められている」と言う。何が問題か。これは合法であることを善いことにすり替えているね。自然主義的誤謬という。さらに「善いことを拒否するのは悪いこと」というロジックで演繹すると最初のやつになる。
納得がいかないならパフォーマティブで検索するといい。事実確認的（コンスタティブ）な発話は、議論の場においては、検討材料を提起する行為遂行的（パフォーマティブ）な側面を持つ。「学習は善い」か？ 「空は青い」――無関係な言明で邪魔している。「学習は合法だ」――誤解をもたらす言明で妨害している。
「合法なものは善い」は一見して誤りだとわかる。そのような価値観を内面化している現代人にとってさえ。にも関わらず演繹的な判断の間に暗黙的に挟まって議論を破綻させている。インターネットで繰り返し繰り返し学習の合法性が語られるのは、忘れがちで重要な事実だからではない。誰かが不道徳でヒステリックでバカな人間だと結論付けられるからだ。
まだ納得がいかない人もいるだろう、だって学習が合法なのは事実じゃないか。それは皆分かっている。それでも相手の主張が無知に由来すると決めてかかるのなら、それは貴方の不正義だ。井戸端会議で「もっと考えてから発表してほしい」なんて常套句だが、それは相手を考えなしと決めつけて侮る態度であって、恥ずかしいものなんだ。
合法性と合理性を混同してはならない
最大多数の最大幸福をキャッチコピーに、善いことと合理的であることとは互いに結びつけられている。いつもの自然主義的誤謬がつきまとうのだが、いずれにせよ現代人は内面化した。功利の原理にかなう法律が優れていると思うのが普通の感性になった。
だとしても、現行法が完璧に合理的である、もしくは将来そうなると考えるのは危険だ。「学習は合法」だから「学習の禁止を求めることは非合理的」なのか？ 倫理のかわりに合理性に訴えているだけで、先の話とまったく同じになってしまう。
進歩史観が影を落としている。マルクスとかああいうのだ。人類の歴史は一方向に進行している……より良い方向に向かう。そんな観念を内面化してしまっていると、現行法が完璧でないと知っていてさえ罠にはまる。いずれ合理的になるよう整備されてゆく……今もある程度合理的に違いない。
法律は永遠の未完成品で、いつまでも調整が続く。LoLみたい。様々な利害を吸収してバランスを取るのは目標であって、先にバランスを考えて、実践する手段として法律がついてくるんだ。バランスの良さを量るのに合理性を持ち出すことはできるが、そこに合法性を持ち出してはあべこべだ。
EUと日本でAI関連の規制が異なるが、これはバランス調整の方針の違いの話だ。どちらかが正解で不正解という話を始めるとポジショントークの暗黒面に呑まれて死ぬ。
権利と限界を混同してはならない
生まれながらに生存権があり、永住権を認められ、肖像権で保護されている人々がいる。私達だ。現代人は生来たくさんの権利に囲まれていて、権利のない生活は想像できない。
だが忘れてはならない。権利というのはフィクションで、人が作り出し、人が維持している。私達が権利を認めているから権利が存在する。
卑近なところでいうと、借金だろうか。日本では「貸した金を返してもらう権利」は数年で時効になる。借金が消滅する。時効を防ぐには定期的に督促しなければならない。権利は主張しなければならない。
権利にないものを求めるのは強欲だろうか？ 違う。彼らは権利をこそ求めているのだから。権利は人が請求できるものの限界ではない。私達の権利の一つ一つが歴史のある時点で勝ち得たもので、いつ奪われるかしれない。写真が著作権で保護されているのは写真が著作権で保護されるよう求める声があったからだ。学習されない権利を認めるのは妥当だろうか？ 少なくとも、権利を求めることは妥当なはずだ。
納得いかない人向けの頭の体操。「女性参政権がない」という歴史のある時点での事実から「女性参政権を認めることはできない」を導けるか。そしたら「外国籍住民に選挙権がない」という現時点の事実から「外国籍住民に選挙権を認めることはできない」は導けるか。
倫理的であるということについて
ここまでの話において、実は生成AI云々は例に出てくるばかりで、生成AI自体について検討する話ではなかった。むしろ議論しようという人間の態度ばかりつついている。生成AI以前の問題だと信じているからだ。意図的に反AIという単語を用いるのを避けた。この単語には差別感情が籠められているからだ。〇〇してはならないは倫理規範的な言及だ。お前の倫理の話をしてんだよ。
権利の話をした。権利は維持しなければ消滅する。基本的人権のような一見プリミティブな概念ですら簡単に消滅させられる。人と思わなければいい。誰々に権利を認めるかどうか、合理的に決められるかもしれないが、そこに差別感情が漏れていては最悪だ。
だから何より最初に無自覚なバイアスがないか疑わないといけない。そして常に無自覚なバイアスがないか疑わないといけない。という感じの話が認識的不正義に出てくる。読もう。
おまけ
せっかく生成AI小話と銘打っているから、筆者個人の生成AIに関する見解も述べておきたい。今のところ学習されるのが嫌な人のためにオプトアウト制だとか、個別対応のオプションを用意する空気があるように思うが、満足行く形にできるとは思えない。
ちょっと前にニコニコに動画を上げた。この動画がどうもYouTubeに転載されている。知らん誰かに。DMCAを飛ばして転載を消させる権利があるのだけれど、ずっと行使せず放置している。遵法意識のない人間相手に個人情報を開示する嫌さと面倒くささに対して得るものが少ないからだ。
この世の悪事の少なくない割合は面倒くさくて見逃されている。
オプトアウトのような、暴力的なまでに個人の力に負担させる方式が現実に適切に運用されることはないだろう。各クリエイターにとって1:Nの学習モデル全部をチェックするのは手間だし、robots.txtのようなクローラー対策ではチェック先が1:Nの無断転載に変わるだけで、面倒くさいことに変わりはない。大企業IPのみがオプトアウトされて零細クリエイターが泣き寝入りする世界が来る。個人はオプトアウトの手間に耐えない。
だからといってオプトインにしたら生成AIは立ち行かないんじゃないかって？ そうかもね。結局はバランス取りだ。バランス取りの結果生成AIの方を切り捨てる未来だってありうる。
グローバル市場で戦える大企業より労働人口を抱える中小企業を優遇するのが当然というような風潮を時々感じる。同じロジックをクリエイターに向けないのは、他人への無関心が剥き出しな気がして、まあ悲しいよな。悲しくなる。