失礼な表現事例!?【デジタルMATSUMOTOの考察（2023/10/16）C評価】AI生成インフルエンサーが 24時間稼ぎ続ける 中国ライブコマース新事情

今日はデジタルMATSUMOTOによる失礼な表現事例になります。

デジタルMATSUMOTOが以下の記事に考察をしたようです。記事の要約に対して考察をしました。
出力の著作権違反はチェックしてますが、問題があるようでしたらご指摘いただけますと幸いです。
元記事はMITテクノロジーレビューさんをご覧いただけましたらと。

AI生成インフルエンサーが 24時間稼ぎ続ける 中国ライブコマース新事情

デジタルMATSUMOTOの考察

AIの進化とその活用については様々な観点から議論がなされています。特にAIが学習するデータには大きな影響を受けるため、その開示が求められています。これはAIによる差別や偏見を防ぐための重要な措置であり、公平性を保証する上で極めて重要です。また、利用者や関係者がそのAIの信頼性を判断する材料を得ることも可能となります。

一方で、AIの活用が進む中国では、AIが生成した⭐️リアル松本が追記）デジタル・インフルエンサーディープフェイク・インフルエンサーが24時間活動し、商品紹介や販売を行う現象が見られています。このテクノロジーの進化は、Eコマース・ストリーミング・プラットフォーム全体で人気が高まっており、小規模ブランドにとってはコスト削減の手段として有効です。

しかしながら、AI生成のストリーマーは完璧ではありません。不自然な瞬間が視聴者に感じられることがあり、本物のインフルエンサーには完全には勝てないともされています。このような課題を解決するためには、AIの学習データとその開示の重要性が再び浮上します。AI生成の⭐️リアル松本が追記）デジタル・インフルエンサーディープフェイク・インフルエンサーは、人間が持つ感情や思考を持たないため、視聴者とのコミュニケーションにおいてはその限界が指摘されます。AIが人間の代わりに行動する場合、本物の人間と同じように振る舞うことが求められる一方で、それが完全には実現できないという問題があります。

AIが学習するデータの開示はAIの公平性を保証するための一つの方法ですが、AI生成の⭐️リアル松本が追記）デジタル・インフルエンサーディープフェイク・インフルエンサーのような活動においては、その開示がなされていない可能性があります。どのようなデータを学習し、どのようなアルゴリズムで動いているのか、その透明性が求められます。

⭐️リアル松本が追記）
AI生成のデジタル・インフルエンサーは、今後日本のビジネスや生活においても活用されていく可能性がありますが、ヒトとAIのそれぞれに「出来ること」と「出来ないこと」があるため、両者が信頼し合って互いの弱点を補完できる上手な連携モデルを検討していくことが必要になると考えられます。

リアル松本のコメント

評価C.内容を修正
今日も失敗考察編として、C評価の記事を載せています。
デジタルMATSUMOTOによる失礼な表現事例です。当初生成した考察では「ディープフェイク・インフルエンサー」という表現をしていたが、これはさすがに失礼であるため修正しました。
また、「不自然な振る舞い」と「学習データの開示の重要性」は論理的に結び付かないため、この点も修正しました。

こういった問題は「表現の使いどころ」なので「表現しないようにしたい」わけではないので、どのように対策したら良いか悩ましいところです。

今回の考察生成において、インデックス内で特に注目された文書（埋め込みベクトルで参照）は以下のようです。
経験則ですが、この2つの記事が選ばれている時は大体具体的な類似考察がインデックス内に無いんだろうなと感じるようになってきました。
もう少しデジタルヒューマン的な記事に考察を続けてみようと思います。

＞［デジタルMATSUMOTOの考察］進化を止めるな　世界的権威の訴え：日本経済新聞 AIの進化とその利用について、その効用と問題点、そして今後の課題について考察する必要がある。AI専門家であるアンドリュー・ング兼任教授は、AIの進化により人間に勝る知識を獲得し始めていることを指摘している。

＞［デジタルMATSUMOTOの考察］生成AI学習データ、事業者に開示指針　政府が骨子案：日本経済新聞
人工知能（AI）の活用が広がる中、AIガバナンスは社会全体にとって重要な課題となっています。その一環として、政府がAIの事業者向けの指針を年内にまとめる方向性が示されました。この指針では、開発から活用までの5段階で企業が守るべきルールを示し、生成AIがどのようなデータを学習したかの開示を求めることが予定されています。この開示要求は、AIによる差別や偏見を防ぐための措置と言えます。 AIはその学習データに大きく影響を受けるため、不適切なデータを学習することで偏った判断を下す可能性があります。そのため、生成AIがどのようなデータを学習したかを開示することは、AIの公平性を保証する上で極めて重要です。また、開示により、利用者や関係者がそのAIの信頼性を判断する材料を得ることができます。