AI開発の陰で進む「現代奴隷」が衝撃すぎた
AIメディアを運営する男性2人が"ながら聞きでも未来がわかる"をテーマに30分で生成AIのトレンドを解説するPodcast「AI未来話」。
このnoteでは番組のエピソードからトピックをピックアップして再構成したものをお届けします。※この記事は95％がLLM「Claude」で執筆しています。
今回は「#33 AI開発の陰で進む「現代奴隷」が衝撃すぎた」を再構成した内容をお届けします。
AI開発の裏側で起きている現代の奴隷制度
ケニアからの告発
今年5月、ワシントンでケニアのウィリアム・ルート大統領を迎えた晩餐会で、衝撃的な出来事がありました。
ケニアの技術者100人が、アメリカのバイデン大統領宛てに公開状を送ったのです。
その内容は、アメリカのテクノロジー分野で現代の奴隷制のような状況が発生しているという告発でした。
特にケニアは「シリコンサバンナ」と呼ばれるほど、ビッグテックの仕事を多く受注している国です。
2021年には、OpenAIからケニアの下請け会社サマ社に3つのプロジェクトが約2900万円で委託されました。
OpenAIとしては時給1830円程度で設定した業務が、末端の作業者には時給300円程度しか支払われていないという実態が明らかになったのです。
時給300円の現実
具体的には、学習データのラベリングとコンテンツモデレーションという作業が、時給300円程度という驚くべき低賃金で行われているのです。
この作業は一見、単純な分類作業に見えるかもしれません。
例えば「犬の画像」「猫の画像」といった具合に、大量の画像や動画を分類していく作業です。
しかし、実態はそれほど単純ではありません。
AIが不適切なコンテンツを判別するためには、不適切なコンテンツが何かを学習させる必要があります。
そのため、不適切なコンテンツにラベリングする必要があり、作業者は殺人や暴力、虐待、ポルノといった不適切なコンテンツを1日8時間以上見続けなければならないのです。
私たちは健康、命、家族に多大な犠牲を払ってこの仕事をしています。米国の大手IT企業は、最も過酷で危険な仕事を海外に輸出しています。この仕事は精神的にも感情的にも消耗します。私たちはFacebook、TikTok、Instagramをスキャニングして、これらの重要なプラットフォームがヘイトスピーチや暴力煽動で溢れないようにしています。私たちは画像やテキストにラベルを付けて、OpenAIのChatGPTなどの生成AIツールをトレーニングしています。私たちの仕事は、殺人や斬首、児童虐待やレイプ、ポルノや獣姦を観察することであり、1日8時間以上かかることも少なくありません。
PTSDの危険性
さらに深刻なのは、この作業が作業者のメンタルヘルスに及ぼす影響です。
サマ社はOpenAIとの契約を期間途中で破棄しましたが、その理由が衝撃的でした。
作業者の多くがPTSD（心的外傷後ストレス障害）を発症し、不適切コンテンツの映像が常にフラッシュバックするという深刻な状況に陥っていたのです。
グローバルな搾取構造の実態
フィリピンの現状
私たちの調査によると、この問題はケニアだけでなく、フィリピンでも深刻な状況が発生しています。
ワシントンポストの報道では、2023年には200万人以上のデータラベラーとコンテンツモデレーターが働いていましたが、その待遇は驚くべきものでした。
Scale AI社の「リモートタスクス」と呼ばれるプラットフォームでは、データラベルの仕事の支払いが1タスクあたり約3フィリピンペソ（約9円）にも満たないケースがあります。
掲示板型ソーシャルニュースサイト、Redditの、オンラインで収入を得ている労働者のためのスレッドでは、データラベリングの仕事に対しての支払いは1フィリピン・ペソ（約3円）に満たない。
2024年のマニラの平均月給が25,500フィリピンペソ（約6.6万円）であることを考えると、この単価がいかに低いかが分かります。
マニラ:平均給与: PHP 25,000 ～ 35,000/月首都マニラは、フィリピン経済の中心地であり、多くの大企業や外国企業が集まっています。そのため、給与水準も全国平均より高くなっています。
支払いの遅延と解雇の問題
さらに深刻なのは、支払いの問題です。
ワシントンポストの報道によると、説明なしに支払いが遅延したり、未払いになったりすることが日常的に発生しています。
そして、支払いについて質問や批判をすると即座に解雇されるという状況も報告されています。
このような状況は、まさに現代版の奴隷制と言えるでしょう。
作業者は低賃金で危険な作業を強いられ、さらに正当な支払いすら保証されていないのです。
拡大するデータラベリング市場
コンサルティング会社グランド・ビュー・リサーチの調査によると、データラベリング業界の市場規模は現在約3300億円にのぼり、2030年までには約2兆5500億円に成長すると予測されています。
私たちは、この急激な市場拡大に伴い、AI学習のための低賃金労働の需要が更に増加していく可能性を懸念しています。
特に注目すべきなのは、この市場拡大が単なる予測ではなく、AIの発展に必要不可欠な要素として存在しているという点です。
AIが進化すればするほど、より多くの学習データが必要となり、それに伴って「AIのための奴隷的な仕事」が増加していく構造が形成されているのです。
AI産業革命と奴隷制の歴史的類似性
産業革命時代との比較
私たちは、現在のAI開発における状況が、かつての産業革命期と驚くほど類似していることに気づきました。
エリック・ウィリアムズの著書『資本主義と奴隷制』によれば、イギリス産業革命はアフリカ人奴隷の汗と血の結晶だったとされています。
イギリス産業革命は、アフリカ人奴隷の汗と血の結晶だとエリック・ウィリアムズは『資本主義と奴隷制』で指摘した。ウィリアムズはトリニダード・トバゴ出身。産業革命をカリブ海域から見るという画期的な研究に取り組んだ。川北稔さんの解説を紹介します。https://t.co/muEBuBSfee
— じんぶん堂 (@asahijinbun) September 9, 2020
#産業革命 #奴隷
当時、奴隷制度によって生産された綿花や砂糖などの作物が、イギリスの工業製品の原料となっていました。
具体的には、アメリカ南部の奴隷労働によって安価に供給された原料が、イギリスの織物工場で加工され、ヨーロッパ全土に供給されることで、工業化と経済発展が進んでいきました。
この構図は、現代のAI開発における低賃金労働者の状況と非常に似ているのです。
デジタル植民地の出現
さらに興味深いのは、産業革命期の植民地問題とAI時代の状況の類似性です。
かつてイギリスは広大な植民地から原材料を調達していましたが、これは実質的な資源の搾取でした。
本来であれば独立国との貿易として適切な対価が支払われるべきところ、植民地という立場のために、実質的にただ同然で資源が収奪されていたのです。
私たちは、この構図が現代のAI開発にも当てはまると考えています。
例えば、日本はAIマーケットとして非常に大きな存在であり、OpenAIも日本に独立法人を設立するほどです。
しかし、ユーザーの入力データが学習に利用される状況は、まさにデジタル植民地と呼べるのではないでしょうか。
歴史から学ぶべき教訓
産業革命期の奴隷制度は、その後、非人道的な制度として廃止されました。
しかし、現代のAI開発における低賃金労働の問題は、より複雑な様相を呈しています。
それは「業務委託」という形態を取っているため、「嫌なら仕事を受けなければいい」という論理で片付けられてしまうのです。
さらに、より高い単価で仕事を提供しようとしても、より安価で引き受ける競争相手が現れるという構造的な問題があります。
これは単なる賃金の問題ではなく、人道的な観点からも深刻な課題となっています。
AI時代における労働の二極化
コンテンツモデレーターの雇用削減
私たちは最近、TikTokの親会社バイトダンスが、AIによるコンテンツモデレーションへの移行に伴い、数百人規模の雇用削減を行ったというニュースに注目しました。
ロイター通信の報道によると、マレーシアで700人以上の雇用が削減され、後にTikTok側が「影響を受けた従業員は500人未満」と説明しています。
事情に詳しい2人の情報筋はロイター通信に対し、マレーシアで700人以上の雇用が削減されたと伝えた。中国のバイトダンスが所有するTikTokはその後、マレーシアで影響を受けた従業員は500人未満であると明らかにした。
この状況に私たちは大きな違和感を覚えています。
なぜなら、AIのコンテンツモデレーターの精度を上げるために人間による学習データが必要であり、その学習データを作成してきた人々が、学習が完了したという理由で職を失うという皮肉な状況が生まれているからです。
正規モデレーターと学習用モデレーターの格差
この状況は、さらに深刻な問題を浮き彫りにしています。
正規のコンテンツモデレーターとして雇用されていた人々が、AIの導入によって職を失い、その後、より低賃金のAI学習用モデレーターとして働かざるを得なくなる可能性が高いのです。
これは私たちが懸念している「人間の仕事がAIの奴隷になる」という問題の典型的な例といえるでしょう。
正規の職として確立していた仕事が、AIの進化によって低賃金の単純作業へと転換されていく過程を、まさに目の当たりにしているのです。
単一タスクの危険性
私たちは、今後の労働市場において重要な分岐点があると考えています。
それは「AIに対する仕事」と「人間に対する仕事」という二極化です。
特に単一的なタスク、つまりAIにデータを供給する作業は、今後さらに単価が下がっていく可能性が高いと予測しています。
一方で、人間が人間に対して行う仕事は、より高い価値を持つようになっていくでしょう。
このため、私たちは単一的なタスクに特化した仕事には警戒が必要だと考えています。
そのような仕事は、低単価化とともに労働環境の悪化が進む可能性が高いためです。
AI時代の労働運動と対抗策
現代のラッダイト運動の可能性
産業革命期にはラッダイト運動と呼ばれる機械打ち壊し運動が発生しました。
これは産業革命に伴う人員削減や失職、技能職の地位低下に対して、労働者たちが工場の機械を破壊するという形で抵抗した運動です。
私たちは、AI時代にも同様の抵抗運動が起こる可能性を考えています。
しかし、現代のAIに対する抵抗運動は、物理的な破壊という形を取ることは難しいでしょう。
その代わりに、例えばデータセンターへの攻撃や、意図的に誤ったラベリングを行うことでAIの学習データを破壊するといった形態が考えられます。
このような状況を想定すると、フィジカル（物理的な力）の重要性が、意外にも今後のAI時代に大きな意味を持つ可能性があります。
技術受容と倫理的な事業展開
一方で、「ラッダイト」という言葉は現代では、新しいテクノロジーや機械、作業に反対する人々を表す言葉として使われています。
これは技術の進歩に適応できない人々を象徴する言葉として、やや否定的なニュアンスを帯びています。
私たちは、AIという新技術を適切に使いこなし、自分の仕事に昇華させていく能力が重要だと考えています。
同時に、事業者側には倫理的な観点から、搾取的な労働環境を作り出さない責任があります。
パンドラの箱としてのAI
AIは、特に機械学習の分野において「パンドラの箱を開けてしまった」と例えられることがあります。
一度開けられたパンドラの箱は、もう誰がどう頑張っても元に戻すことはできません。
つまり、私たちはAIを受け入れざるを得ない状況にあるのです。
この状況において重要なのは、AI時代の負の側面を理解しつつ、より良い未来に向けて行動することです。
特に収益を上げている事業者は、搾取的な構造から切り離された倫理的な事業展開を目指す必要があります。
また、より上位の層には、搾取される立場の人々に救いの手を差し伸べるような取り組みが求められています。
まとめ
AIの発展の裏で進行している現代版奴隷制の実態について探りました。
ケニアやフィリピンでは、AI学習のためのデータラベリングやコンテンツモデレーション作業が、極めて低賃金で行われています。
これは産業革命期の奴隷制度や植民地支配と構造的な類似性を持ち、今後のAI開発における重大な倫理的課題となっています。
私たちが便利に使っているAIの裏側には、不適切なコンテンツと向き合いながらPTSDと戦っている人々がいることを、しっかりと認識する必要があります。