【news】「AIモデル崩壊」のリスク：AI生成データが生む自己増殖の危険性

2024年7月、オックスフォード大学のイリア・シュマイロフ氏らの研究チームは、AIモデルが他のAIモデルによって生成されたデータで訓練されると、「モデル崩壊」と呼ばれる現象が発生することを明らかにしました。

この現象は、モデルが時間の経過とともに元のデータ分布を忘れ、性能が劣化するプロセスを指します。

研究によれば、AIモデルはトレーニングデータ内の一般的なパターンを学習し、入力に対して最も可能性の高い出力を生成します。しかし、AI生成コンテンツが増加し、それらが再びトレーニングデータとして使用されると、モデルは「最も一般的なもの」に偏り、データの多様性が失われます。このサイクルが繰り返されると、モデルは元のデータ分布から乖離し、最終的には「モデル崩壊」を引き起こします。

この問題に対処するため、研究者たちは以下の対策を提案しています：

• 人間生成データの継続的な利用：AIモデルの学習には、人間が生成したオリジナルのデータを定期的に使用し、モデルが現実世界の分布を正確に反映し続けることが重要です。

• AI生成コンテンツの識別：インターネット上のコンテンツがAI生成か人間生成かを区別する技術の開発と実装が求められています。

• データの多様性確保：意図的に多様なデータセットを構築し、モデルが偏った学習をしないようにすることが必要です。

これらの対策を講じることで、AIモデルの長期的な性能維持と公平性の確保が期待されます。