見出し画像
Photo by shinobuwada

生成AIに対する私の主張まとめ

ほんねのーと

私はAIを利活用したり、ツールやソフト、サービスにAIを組み込んだり、AIを開発したりする仕事をしている訳だけれど。

「AIを悪用すること」には否定的な立場なのよね。
AIを利用している事で「AIの悪用をする人間」と判断されて誹謗中傷されたり、デマを流されてきたから、今回は私の主張をまとめてみたわ。

日本の著作物をAIに学習させる権利は国内の日本人に限定すべき

日本の著作物をAIに学習させる権利は、日本国内の日本国籍を持つ人に限定すべきよ。

日本には多くの著作物があり、海外の企業が無断でこれらを学習して高精度なAIを開発しているわ。

こうした状況は日本の文化の発展を妨げ、日本市場を海外に独占される結果につながるわ。

だから、日本の著作物の利用を国内の日本人に限ることで、文化の保護と市場の利益を守るべきよ。

AI開発に免許制度を導入し、著作権悪用を防ぐべき

著作権法を悪用して、他人のイラストの画風を模倣したAIが開発されているわ。

画風そのものには著作権が無いのだけれど、他者の努力で確立された画風を簡単に模倣できる状態になると、新しい画風を創出するよりも模倣する方が楽だとされ、文化の衰退を招く事になるわ。

だから、生成AIの開発に免許制度を導入し、悪用者には免許を剥奪する仕組みを作り、免許保有者以外によるAIの開発や公表、利用を禁止することが必要だと思うわ。

i2iやLoRAの悪用を違法化すべき

イラストを基に新たなイラストを生成する技術や、特定の絵柄を模倣する技術は、元のイラストに依存しているわ。

このような技術が悪用されると、著作権ロンダリングが行われることになるわ。

これを合法とすると、著作権法が機能しなくなってしまう恐れがあるから、i2iやLoRAの悪用を違法化することが必要だと思うの。

声にも新しい権利を設けるべき

声優の声を無断で学習してAIボイスチェンジャーや音声合成に利用するケースが増えているわ。

声優は「声」と「演技」を提供している職業であるにもかかわらず、その「声」が無断で使われる現状には問題があると思うの。

さらに、権利や法が整備されていないと、声が偽造されてスキャンダルや不祥事の証拠として悪用されるリスクも高まってしまうわ。

だから声にも新しい権利を設け、悪用されないようにする必要があると思うわ。

生成AIの悪用に反対する絵師は実アカウントで声を上げるべき

絵師を名乗る捨てアカウントがAIの悪用に反対する運動をしているケースが多いけれど。
この運動により、反AIが安全地帯から過激なお気持ち表明をしていると思われている現状があるわ。
（有名な絵師が反AIに苦言したりAI擁護する意味の分からない行動をしているケースから理解出来るはずよ）

だからこそ、実際に被害を受けている絵師が自分の実アカウントを使って声を上げることで、その主張がより説得力を持ち、周囲にも影響を伝えやすくなると思うの。

・声を上げたらLoRAモデルを作られてしまう
・AI絵師から誹謗中傷されてしまう
という理由から捨てアカウントを推奨する主張もあるけれど。

LoRAモデルを作られて活動に支障が出るレベルの絵師さんなら遅かれ早かれLoRAモデルを作られてしまうでしょうし、誹謗中傷については弁護士に相談すべきだと思うわ。

逃げるだけでは問題は解決しないし、当事者が積極的に活動することが現状を変える為には必要なのでは無いかしら？
（インボイス制度の件から学んで早めの行動が必要だと思います…）

生成AIを使った非公式な二次創作は禁止すべき

生成AIを利用すれば、無限に二次創作物を生成可能よ。

しかし、この技術が悪用されると、特定のキャラクターを使ったさまざまなシチュエーションのイラストが大量に生成・公表される恐れがあるわ。
原作側は新しいシチュエーションを考える際に、既存の二次創作と被らないように工夫しなければならなくなり、創作活動が阻害される可能性があるわ。
（人間の手で生み出す二次創作の数をAIは超える事が可能である為、今までのバランスが崩壊する可能性が高い）

また、二次創作と似た内容を原作が創作すると、「パクり」とされて炎上するリスクもあるから、生成AIを使った非公式な二次創作を禁止することで、原作側の創作活動を阻害しないようにする必要があると思うわ。

生成AIを使った教育には制限を設けるべき

最近、学校の授業でChatGPTを利用することがあるようだけれど。

誤った情報を生成することがある為、調べ物に使うには精度の問題があるわ。

ブレインストーミングに利用するケースがあるけれど、ChatGPTは新しいアイデアを出すことよりも、既存のアイデアに似たものを提案することな優れているから、ブレストには向いていないと思うわ。

ChatGPTを調査や思考の代行者として利用したり、教育に取り入れることには問題があると思うのよね。

人間に必要なものは思考力や発想力だから、そこをAIに任せてしまうことに賛同はできないわ。

プロンプトについて学ぶ学校もあるみたいだけれど、プロンプトもAIに作らせた方が精度が高くなるとされているから、学ぶ必要もないのよね。

だから教育に取り入れるべきことは

・ChatGPTを使って何ができるかを考える

・今あるものをChatGPTで置き換えるプロンプトを考える

・ChatGPTにプロンプトインジェクション攻撃をして生成AIの問題を理解しつつ、プロンプトやセキュリティの理解度を高める

などだと思うわ。

生成AIを使った生成物に電子透かしを付けることを義務化すべき

カリフォルニア州の法案でも話題になっているけれど。

生成AIを使用しているか否かを判別できない状況には問題があるから、義務化した方がいいと考えているわ。

問題はいくつかあるのだけれど、私の中では以下の3つが重大な問題だと思っているわ。

1. AIに学習させる際、生成AIによる生成物が混ざると精度に影響してしまう。

2. AIによるフェイクか実際の情報であるか判断出来ない場合、フェイクニュースが飛び交う環境が生まれてしまう。

3. 人間が生み出したものとAIが生み出したものを区別しなければ、正当な評価を受け取れない人が現れ、不平等な環境になってしまう。

だからAI生成物を判別する為の電子透かしの義務化は必要だと思うわ。

以降、随時更新
最終更新：2024年8月29日

記事をいいね&SNSにシェアして
この記事を応援してください！！

以下の投稿のリポストもお願いします！！

いいなと思ったら応援しよう！