テッド・チャン「生成AIは著作権ロンダリングツール」
まさかそんな、世界最高のSF作家のテッド・チャンが
反AIの絵師と同じこと言うわけないでしょ……
では、ニューヨーカー誌での8月31日に発表されたチャンのエッセイを読んでみましょう。
Why A.I. Isn’t Going to Make Art
「なぜAIはアートを作ることがないのか」
The programmer Simon Willison has described the training for large language models as “money laundering for copyrighted data,” which I find a useful way to think about the appeal of generative-A.I. programs: they let you engage in something like plagiarism, but there’s no guilt associated with it because it’s not clear even to you that you’re copying.
プログラマーのサイモン・ウィリソンは、大規模言語モデルのトレーニングを「著作権で保護されたデータのマネーロンダリング」と表現しました。これは、生成 AI の魅力について考えるのに有益な方法だと思います。その魅力とは、コピーしているということがユーザー自身にも明らかではないため、罪悪感なしに盗作のような行為に従事させるプログラムであるということです 。
言ってた……
Despite years of hype, the ability of generative A.I. to dramatically increase economic productivity remains theoretical. (Earlier this year, Goldman Sachs released a report titled “Gen AI: Too Much Spend, Too Little Benefit?”) The task that generative A.I. has been most successful at is lowering our expectations, both of the things we read and of ourselves when we write anything for others to read. It is a fundamentally dehumanizing technology because it treats us as less than what we are: creators and apprehenders of meaning. It reduces the amount of intention in the world.
何年にもわたる誇大宣伝にもかかわらず、ジェネレーティブAIが経済生産性を劇的に向上させる能力は理論上のままです。(今年初め、ゴールドマン・サックスは「Gen AI: Too Much Spend, Too Little Benefit?」と題するレポートを発表しました。ジェネレーティブAIが最も成功したタスクは、「私たちが読むもの」と、「他の人に読ませるためのものを書く私たち自身」の両方に対する期待を下げることです。それは、私たちを本来の私たち、つまり意味の創造者や理解者よりも劣った存在として扱うため、根本的に非人間化する技術です。それは世界の意図の量を減らします。
テッド・チャンによれば、生成AIは
「著作権で保護されたデータのマネーロンダリング」
「罪悪感なしに盗作のような行為に従事させるプログラム」
「私たちを本来の私たち、つまり意味の創造者や理解者よりも劣った存在として扱うため、根本的に非人間化する技術」
であるということです。
誤訳では？と思う方、「ロンダリング」という言葉を肯定的に引用しているが論理的に同じではないと思う方、「非人間化」という言葉は「自動化」くらいの意味ではないかと思う方は全文読んでください。全編明確な批判であり、チャンは一貫しています。「人間性を奪うもの」としての「非人間化」という言葉です。
また、おなじみの「人間も他の著作物から学習しているからセーフ」に対する反論も直後に続きます。
Some have claimed that large language models are not laundering the texts they’re trained on but, rather, learning from them, in the same way that human writers learn from the books they’ve read. But a large language model is not a writer; it’s not even a user of language. Language is, by definition, a system of communication, and it requires an intention to communicate.
大規模言語モデルは、訓練されたテキストを洗浄しているのではなく、人間の作家が読んだ本から学ぶのと同じように、それらから学習していると主張する人もいます。しかし、大規模言語モデルは作家ではありません。言語の使い手ですらない。言語は、定義上、コミュニケーションのシステムであり、コミュニケーションをとる意図が必要です。
原理的に違うので出力結果が似ていても同様に扱うべきではないと言っています。この考え方が重要になっていくと思います。精緻化するスパムやディープフェイクに対して、いわゆるチューリングテストのように出力結果だけに注目して対処することはできません。
「人間も他の作家から学習しているからセーフ」は、プロの作家でもいいがちだと思います。特に、絵画よりも原理的に複製的な小説において。結果だけを見ての盗作の判別は絵画よりも難しくなるでしょう。だから、結果ではなく原理に注目したのだと思います。
チャンは初期から生成AIを批判してきましたが、前回まではAIをアートに使うことの有用性の低さへの批判だったのが、今回はAIアートの著作権に踏み込んでいました。
６月の韓国での講演と同様、批判の対象としてLLMだけではなく絵画や映画も扱っています。
「選択」というキーワードを用いたAIアート批判は、今回の記事でもメインの見どころですが、前回の記事で紹介したのでもういいかなと思います。
今回は、AIアート批判については面白い部分だけ貼っておきます。できれば本文を読んでください。
AIがあなたのプロンプトに基づいて1万語のストーリーを生成する場合、あなたが行っていないすべての選択を埋める必要があります。これを行うには、さまざまな方法があります。1つは、インターネットで見つけたテキストで表されるように、他の作家が行った選択の平均を取ることです。その平均は、可能な限り最も面白くない選択肢と同等であり、それがAIが生成するテキストがしばしば本当に当たり障りのないものである理由です。もう一つは、特定の作家の選択を模倣して、高度に派生的なストーリーを生み出すスタイルの模倣に取り組むようにプログラムに指示することです。どちらの場合も、面白いアートを生み出しているわけではありません。
同じ基本的な原則が視覚芸術にも当てはまると思いますが、画家が行う可能性のある選択を定量化するのは難しいです。本物の絵画には、膨大な数の決断の印があります。これに対し、DALL-E のようなテキストから画像への変換プログラムを使用している人は、「鎧を着た騎士が火を吐くドラゴンと戦う」などのプロンプトを入力し、あとはプログラムに任せます (DALL-E の最新バージョンでは、最大 4,000 文字 (数百語) のプロンプトを受け入れますが、シーンのすべての詳細を説明するには十分ではありません)。結果として得られる画像の選択肢のほとんどは、オンラインで見つけた同様の絵画から借用する必要があります。画像は精巧にレンダリングされているかもしれませんが、プロンプトを入力する人はそれに対してクレジットを主張することはできません。
また、教育への利用と、さらにはビジネスへの利用も批判しています。
言語学者のエミリー・M・ベンダーが指摘しているように、教師が生徒にエッセイを書くように頼むのは、世界がもっと生徒のエッセイを必要としているからです。エッセイを書くポイントは、学生の批判的思考スキルを強化することです。アスリートがどんなスポーツをしていてもウェイトリフティングが役立つのと同じように、エッセイを書くことは、大学生が最終的に得る仕事に必要なスキルを開発します。ChatGPT を使用して課題を完了することは、フォークリフトをウェイト ルームに持ち込むようなものです。その方法では、認知能力を向上させることはできません。
すべての文章が創造的であったり、心に響いたり、特に優れている必要はない。時には、単に存在する必要があることもあります。このような文章は、広告の閲覧を引きつけたり、官僚的な要件を満たすなど、他の目標をサポートする可能性があります。人々がそのようなテキストを作成する必要があるとき、プロセスを加速するために利用可能なツールを使用することについて、彼らを責めることはほとんどできません。しかし、最小限の労力で費やされたドキュメントが増えれば、世界はより良くなるのでしょうか?大規模言語モデルの使用を拒否すれば、低品質のテキストを作成する要件がなくなると主張するのは非現実的です。しかし、その要求を満たすために大規模な言語モデルを利用すればするほど、いずれはその要求が大きくなることは避けられないと思います。（※わかりやすく言い換え：LLMの使用をやめてもブルシット・ジョブの量は減らないことは確かだが、LLMを利用することでむしろその量は増える）私たちは、誰かがLLMを使用して箇条書きからドキュメントを生成し、それをLLMを使用してそのドキュメントを箇条書きに凝縮する人に送信する時代に突入しています。これが改善であると真剣に主張できる人はいますか?
チャンは以前の発言では、生成AIはアートには役に立たないが、ブルシット・ジョブ的なものへの利用においてはある程度有用であろうと言っていました。しかし今回は、短期的にはLLMのブルシット・ジョブへの利用は作業量を減らすが、長期的には増やすことになるであろう（太字部分）と言っています。
たしかに、〝生成AIは世界の意図の量を減らす〟とチャンは言っていますから、それは言い換えれば意図を媒介しない不要なノイズの比率が増えるということだと思います。
画像のほうに話題を変えても、pinterestなどはノイズだらけで資料が探しづらくなりました。
ノイズが増えたせいで効率が悪くなり、さらに計算資源を使う悪循環。生成AIの魅力というのは、私の理解では、データを統計分析して冗長性を削減してエッセンスを抽出することで、それがモデルと呼ばれているのだと思っていました。しかし、不要と思われていた細部を省略した情報の蔓延は、世界の解像度を下げるのかもしれません。
最後は、アーティストへのエールでした。
もちろん、「AIがあっても負けずに自信を持って共存しよう」という内容ではありません。アートをコミュニケーションと捉え、それが世界に意味をもたらすが、それは生成AIにはできないと要約されます。
似たようなことがアートにも当てはまります。小説、絵画、映画のいずれを制作していても、観客との間にコミュニケーションをとる行為に従事しています。あなたが作成するものは、人類の歴史における過去のすべての芸術作品とまったく異なるものである必要はありません。それを言っているのはあなたであるという事実、それがあなたのユニークな人生経験から導き出され、あなたの作品を見ている人の人生の特定の瞬間に到着するという事実が、それを新しいものにしているのです。私たちは皆、先人たちの産物ですが、他者と交流しながら生きることで、世界に意味をもたらすことができるのです。これは、オートコンプリートアルゴリズムでは決してできないことであり、誰にもそう言わせないでください。
このように、人間のクリエイターを勇気づける内容ですが、日本ではまだ大きく紹介されていません。韓国でのAIアート批判の講演も翻訳されていないし。
紹介されるときの見出しも、謎に中立化しているものが多い。「テッド・チャンがアートとAIについて語っている」「AIはアートを作れるのか？」みたいに。いや、明確に作れないと断言してるよね。
チャンもそういうのが嫌でタイトルからもう疑問文ではなく否定だとわかるようにするようになってきたと思う。
紹介されてないので、自分の役割ではないと思いますが短く紹介しました。全文読んでほしい。生成AI批判の教科書的な内容です。
基本自動翻訳ですがおかしいところは手動で直しました。（翻訳にはAIを使うの？と思われるでしょうが自分には言語＝道具＝複製的という持論があって、絵画は非記号的な動作であるので複製的ではないとか色々ありますがここでは詳しく言いません）（自力で読解できるので補助的な利用ですが、完全に翻訳できない人が依存するのは危険かも）
AI批判の行動には今のところ特にメリットがないし絡まれる危険しかないのですが、私はテッド・チャンやグレッグ・イーガンのAI批判の紹介というささやかな活動だけをもっぱらしています。
しかしチャンのような作家がいるのでわりと自信を持ってできるようになりました。
そのうち批判が普通のことになると思います。むしろ批判していた情報を残すのが得かもしれません。
チャンのAI批判はまあ都合が悪いので、これからも大々的には紹介されないかもしれないし、されたとしても「テッド・チャンによる警鐘を乗り越えて我々はどうAIと共存するのか」みたいに結論は歪められると思う。チャンはもうそういうレベルではなく、ゴミはゴミ箱に捨てろと言ってる勢いだと思うけど。
(9/20追記) 今回省略した、AIアートを選択の少なさという観点から批判する発言の紹介は以下↓の記事です。今回より長めで、イーガンの発言の紹介もあります。