不快と感じる可能性のある表現の見直しを提案　より健全な言論空間の実現に向けた独自AI「コメント添削モデル」のご案内

Yahoo!ニュースのコメント欄で新機能「コメント添削モデル」の提供を2024年9月9日から開始しました。本機能は、「不快と感じる可能性のある表現」に対して、コメントを投稿完了前にAIが表現の見直しの提案をする機能です。ここでは、その取り組みの詳細についてご案内します。

「コメント添削モデル」提供の目的

「Yahoo!ニュース」は、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的として、コメント欄を2007年から提供しており、安心して利用できるサービス環境を目指すべく、コメント欄の健全化のため複数の独自のAIを取り入れてきました。そしてこのたび、「コメント添削モデル」の導入により、ユーザーが投稿完了前にコメントを見直す機会を提供することで、該当の記事にまつわる方々や他のユーザーが不快と感じる恐れの少ない表現への改善を促し、コメント欄のさらなる健全化を目指します。

「コメント添削モデル」の仕組み

1）「コメント添削モデル」発動イメージ

「Yahoo!ニュース コメントポリシーに違反するコメント」や、「不快と感じる可能性のあるコメント」を投稿しようとした場合に、該当箇所をハイライトで示します。

◾️「コメント添削モデル」の発動イメージ（※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します）

「コメント添削モデル」による判定は、コメント全体の文脈をもとに行われます。

2)「コメント添削モデル」の挙動

コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、「コメント添削モデル」が不快と感じられる可能性のある内容と判断した場合、該当箇所をハイライトで示し表現の見直しを提案するポップアップが表示されます。

■「コメント添削モデル」の挙動イメージ（※画像の内容は一例であり、条件に当てはまるコメントにのみ発動します）

この時点では、コメントの投稿は完了しておらず、「コメント入力に戻る」ボタンを押下するとコメントの再編集画面（コメント投稿フォーム）が表示されます。

再編集画面では、コメント投稿フォームの下に「コメント添削モデル」が指摘した該当箇所すべてが表示されます。必要に応じてコメント本文の見直しを行い「投稿する」ボタンを押下すると投稿が完了します。

修正は任意であり、そのままでも投稿は可能です。

ご利用上の注意事項

• 本機能は投稿内容の修正を強制するものではないため、修正は任意となります。

• 本機能発動により投稿内容を修正した場合でもYahoo!ニュース コメントポリシーに違反した投稿は削除されることがあります。

• 本機能は投稿内容の文脈上問題がない場合でも、特定のキーワードに対して発動する可能性があります。
  例：『公の場で「頭おかしいの？」なんて言わないほうが良いですよ。』→　「頭おかしいの？」が添削される可能性があります。

• 添削条件に当てはまる内容であっても一部のコメントでは発動対象外となる場合がございます。

• 本機能はYahoo!ニュースアプリでは発動対象外となります。

• 本機能はコメンテーターコメントでは発動対象外となります。

• 仕様は変更になる場合もございます。

また、コメントの投稿においては、ユーザーの皆さまには引き続きYahoo!ニュース コメントポリシーを遵守していただきますよう、お願いいたします。

本機能についてご意見・ご要望がございましたら下記のフォームからお寄せいただけますと幸いです。

ご意見フォーム

Yahoo!ニュースは今後も、多様な意見や考え、感想が集まったコメントが、ユーザーの皆さまの気づきや共感の「種」となるよう、サービスの改善に努めてまいります。ご理解、ご協力のほど、よろしくお願いいたします。

＜Yahoo!ニュース コメントの取り組みを紹介した関連記事＞
・試験提供を開始中の「コメント欄を生成AIで要約する機能」についてご案内
・コメント欄 目立つ場所に「多様な意見」を配置した理由――新AI「コメント多様化モデル」導入の舞台裏
・AIを軸に振り返る「Yahoo!ニュース コメント」健全化の取り組み〜ユーザーが安心して利用できる言論空間のために〜