人間とAIの学習の違いをオートポイエーシス論で説明したい
オートポイエーシス論を使って生成AIの無断学習を批判できたらいいなぁというテストです。
オートポイエーシス論が何かというのは下のほうでちょっとだけ説明します。
最初に、画像生成AIによる著作物の無断学習はなぜ問題なのだろうという問題意識から始めます。
画像生成AIの無断学習に問題がないと思う人の主張は、
「なぜ人間も様々な著作物から学習しているのに、AIのそれだけを絵師は批判するのか」
という感じだと思います。
これを言い換えると、
「人間の学習と機械学習はどう違うのか」
となります。
この質問には色々な側面からの答えがあると思います。規制派の人も様々な方向から違いを主張します。
推進派の人は「そもそも機械学習という言葉は人間の学習と同じ意味ではない」と知りながらも、AIに著作物を学習させることの是非を問われた際にやはり、「人間も学習しているから問題ない」と主張すると思います。これはある程度両者を同じだと見なしているということです。
そして、学習の機序にはあまり触れずに生成物に注目して同じと扱うのが現状の著作権法だと思います。
これが内部の原理的に違うことが示せたらよいのではということです。
人間と機械の違いを語ることができる学問の分野があります。
それがオートポイエーシス論です。
生命と機械はどう違うのか考えたことあるでしょうか？オートポイエーシス論はそれらを明確に区別します。
AIが好きな人は、究極的には人間とAIの差はないんじゃないかと思うでしょうが、それを否定するものではありません。私も将来的にAIが意識を持つことを否定しません。生命を機械に対して神秘的な高い位置に置くものでもありません。だから、生命を複雑な機械と呼んでもいいです。それでも成立する違いについて語るのがオートポイエーシス論です。
まあいろいろありますがwikiで読んでください。
以下に今重要な部分だけ引用しますが、読まなくても大丈夫です。
【マトゥラーナ＆ヴァレラによる規定】
１つ目の特徴は、自律性である。自律性とは「それがプロセスのなかでどのように形態を変えようとも、オートポイエティック・マシンはあらゆる変化をその有機構成の維持へと統御する」ことである[35]。
２つ目の特徴は、個体性である。個体性とは「絶えず産出を行い有機構成を不変に保つことによって、観察者との相互作用とは無関係に、オートポイエティック・マシンの同一性を保持する」ことである[35]。
３つ目の特徴は、境界の自己決定である。境界の自己決定とは「オートポイエティック・マシンの作動が、自己産出のプロセスのなかでみずからの境界を決定する」ことである[35]。
４つ目の特徴は、入力と出力の不在である。入力と出力の不在とは「オートポイエティック・マシンとは無関係な出来事によって攪乱が生じることがあるが、このような攪乱を補う構造変化が内的に働く。もし攪乱が繰り返し生じれば、機械も内的な変化を繰り返す。この変化は同じこともあれば違う場合もある。だがどのような変化が連続しようとも、これらの変化は、オートポイエティック・マシンを規定する条件である有機構成の維持につねに従属している」ことである[35]。
重要なのは、生命とかそれ系の存在は「オートポイエーシスシステム」（自律システム）
一般的な機械とか自然現象の一部とかは「アロポイエーシスシステム」（他律システム）と分けることができるということです。
極端な話、創作はオートポイエーシスシステムである人間の精神がやるもので、アロポイエーシスシステムである生成AIのやることは創作ではないと定義すれば、簡単なわけです。創作ではないので著作物に対する人間の参考とは違い、統計処理をした直接的な利用となります。
これなら、システムの根源的な違いを問題にしているので、AIの学習を規制すると人間の二次創作まで影響があるということはありません。
まだよくわからないと思いますが、重要なのは入出力の不在です。人間には学習元素材を入力する入力装置が無く、出力装置もありません。「いや、目が入力で手が出力だろう」と思われるかもしれませんが、オートポイエーシス論はそう言いません。入出力とは、機械のように入力と出力が決定論的に一対一対応していなければなりません。一方で生命は、いわば刺激と反応でしかなく、刺激に対して内部の構造は定まった動作をせず、また反応するときも関数のように一定の値を返してきません。刺激に対して反応しないときもあり、刺激がないのに何かを出力してくることがあります。これは、「１．自律性」から来ることでもあります。
「入出力が無い」が強すぎる表現だと思うなら、「入出力が一定でなく勝手に変動し続ける関数」と言い換えてみましょう。生成AIを複雑な関数とみなすことができることはご存知と思いますが、拡散モデルは一定でない出力を返すことがあります。プロンプトに対して複数案だしてくるような場合です。これは「入出力が一定ではない」のではないかと思うかもしれませんが、与えるノイズの違いが疑似乱数のような働きをしているだけです。
ですが、ややこしいので、やはり定義通り「入出力の不在」が人間の特徴と言ったほうがいいでしょう。
（逆にいうと、AIがさらに創作っぽくなるにはオートポイエーシスシステムのようにならなくてはならないということです。ニューロンの構造を真似するだけは不十分だったのです。これは生成AI批判のつもりで書いている文章なのですが、改善案でもあります)
説明が足りないと思いますが、今日は最初なのでこのへんでええかということです。全然わかってもらえたとは思いませんが、少なくとも、人間の絵とAIの生成物の違いは「温かみがない」とか「苦労した」とかそういうレベルの話ではないことがわかってもらえたと思います。
強いていうなら、AIには「自律性」と「入出力の不在」が足りないのだということです。AIには入出力があるということです。
繰り返しますが、人間とAIは違うよ～と言うとまるで皆さんが好きな意識のあるパートナーとしてのAIの誕生を否定するようですが、違います。むしろAIの意識が問題となるときこの違いはさらに重要になります。今の画像生成AIはまだ、単に著作物を収集したデータベースにパターン抽出を用いた圧縮処理をかけて再利用する感じの機械というだけです。
（こういった根源的に別物であることを意識しないまま、人間のアートと画像生成AIを比較することはほとんど無意味と言えます。出力結果はたしかに見分けがつかないレベルで似ているのですが、どのようにそれが作られたのかという内部の動作原理を無視して、鑑賞者の視点から両者を比較・評価し続けるのが無理ということです）
この記事が気に入ったらサポートをしてみませんか？