見出し画像

中国「社会信用スコア」の誤解

sinnerman

誤解とは
相手が言ったことの意味をとりちがえること。
また、ある事実について、誤って思いこむこと。思いちがい。

2023/01/04　

中国「社会信用スコア」への誤解はなぜ生まれたか？

AIアルゴリズムが市民を評価するという試みは、中国のような権威主義的国家が進めるディストピア的な政策だと批判されることが多い。
だが、実際に普及が進んでいるのは西側諸国だ。

この記事は米国版ニュースレターを一部再編集したものです…

記事　2022/11/22　自動翻訳

中国は新たな社会信用法を発表したばかりだ。意味は次のとおりです。

西側諸国は中国の社会信用制度を大きく誤解している。しかし、11月に提出された法案は、より正確な現実を示している。

中国の社会信用システムがどのようなものであるかについて話すことよりも、中国の社会信用システムが何でないのかについて語る方が簡単です。2014年に中国が社会の信頼を築く行為に報い、反対の行為には罰則を与える制度を構築する6カ年計画を発表して以来、それは西側の言説において中国について最も誤解されているものの一つとなっている。
現在、11月中旬に新しい文書が発表されており、記録を修正する機会が到来している。

中国国外のほとんどの人にとって、「社会信用システム」という言葉はすぐにイメージを思い起こさせます。
それは、すべての中国国民をその善悪に応じて自動的に採点する、ブラックミラーのようなテクノロジーの網です。
しかし現実には、そのような恐ろしいシステムは存在せず、中央政府もそれを構築する意欲があまりないようです。

その代わり、中央政府がゆっくりと取り組んでいるシステムは、金融信用業界を規制し、政府機関が相互にデータを共有できるようにし、国家が認可した道徳的価値観を促進するという試みを組み合わせたものであるが、特に最後の目標は曖昧である。音が鳴る。
このシステムが広範な社会統制のために悪用されたという証拠はまだありません（ただし、個人の権利を制限するために利用される可能性は依然としてあります）。

備考

中国は、 #SocialCreditSystermのブラックリストに載っている市民の顔、ID、住所などを街中のすべての政府が運営する看板に表示することで恥をかかせています。 これは、社会的信用スコアが低下しないように、「近づかないように」したい人にも警告します!

地方自治体は革新的な規制にさらに野心的であり、さらなる論争や世論の反発を引き起こしているが、全国規模の社会信用システムが実現するにはまだ長い時間がかかるだろう。
そして中国は現在、そのシステムがどのようなものになるかを定義することにこれまで以上に近づいている。
11月14日、いくつかの政府トップ機関が共同で社会信用システムの確立に関する法案を発表した。
これは、社会信用に関する過去の実験を体系的に成文化し、理論的には将来の実施を導く初めての試みである。

しかし、この法案は依然として観察者らに答えよりも多くの疑問を残した。

「この草案は大きな変化を全く反映していない」
と、長年中国の社会信用実験を追跡してきたエール大学法科大学院ポール・ツァイ・チャイナ・センターの上級研究員ジェレミー・ドーム氏は言う。
これは戦略や目的の意味のある変更ではないと彼は言う。

むしろ、この法律は、上海などの中国の都市がデータ収集や処罰方法などに関して近年発表し施行している地方規則に近いものであり、中央の承認を与えているだけだ。
また、ローカルルールの限界について学者たちが抱いている根深い疑問にも答えていない。
「これは主に、そこに存在していたものを組み込んでおり、あまり価値を追加していないところまでです」
と Daum 氏は付け加えます。

では、中国の現在の制度は実際どのようなものなのでしょうか？
人々は本当に社会信用スコアを持っているのでしょうか?
西洋の想像力を支配している人工知能による社会統制のイメージに真実はあるのでしょうか？

そもそも「社会信用」とは何でしょうか？

中国政府が社会信用について語るとき、この用語は 2 つの異なるものをカバーしています。
それは、伝統的な金融信用力と、よりさまざまなセクターからデータを取得する「社会信用力」です。

前者は西洋ではよく知られた概念であり、個人または企業の財務履歴を記録し、将来のローン返済能力を予測します。
現代の中国の市場経済ははるかに歴史が浅いため、この国には他人や企業の財務記録を検索するための信頼できるシステムがありません。
銀行やその他の市場参加者が経営上の意思決定を行えるよう支援することを目的としたこのようなシステムの構築は、不可欠な使命ですが、あまり議論の余地はありません。
中国のほとんどの政策文書では、この種の信用を「※征信」（zhengxin、一部の学者は「信用報告」と訳している）という特定の単語で言及しています。

※中国語からの自動翻訳だと”信用調査”
信を征す。まぁ何となく分る。

独り言

後者の「社会的信用力」はさらに眉をひそめるものです。
基本的に、中国政府は社会に対するより高いレベルの信頼が必要だと主張しており、その信頼を育むために、政府は汚職、通信詐欺、脱税、虚偽広告、学術盗作、製品偽造、公害…ほぼすべてと闘っている。
そして、個人や企業だけでなく、法的機関や政府機関も同様に責任を問われることになります。

備考

何百万人もの中国人は、社会的信用スコアが低すぎるため、電車や飛行機に乗れなくなりました...しかし、中国政府にお金を払って社会的信用スコアを上げることはできます.
独り言：元に戻る。汚職。

ここからが混乱し始めます。
政府は、これらすべての問題は信頼の欠如と緩やかに結びついており、信頼を構築するには画一的な解決策が必要であると考えているようだ。
したがって、金融信用スコアリングが個人の信用度を評価するのに役立つのと同じように、ある種の「社会信用」は人々が他の点で他人の信頼性を評価するのに役立つと同研究社は考えている。

その結果、いわゆる「社会的」信用スコアリングは、他の社会では前例がほとんどない非常に若い分野であるにもかかわらず、政策議論において金融信用スコアリングと一緒にされることがよくあります。

さらに混乱を招くのは、実際には地方自治体がこれら 2 つを混同していることがあることです。
したがって、非金融活動が経済的信用をどのように損なうか、またはその逆について言及する規制を目にするかもしれません。（ほんの一例として、遼寧省は8月、金融信用システムにおいて献血に報酬を与える方法を検討していると発表した。）

しかし、国家レベルでは、国はこの 2 つをほぼ分離しておくことを望んでいるように見え、実際、新しい法案は 2 つの異なる規則セットでこれら 2 つに対処しています。

政府はこれら 2 種類の信用を積極的に規制するシステムを構築しましたか?

簡単に言うと「ノー」です。
当初、2014年に遡る計画では、すべての「社会信用」を追跡する国家システムを2020年までに整備する予定だった。
現在ではほぼ2023年となっており、長らく期待されていたシステムの法的枠組みが2022年11月の法案で発表されたばかりだ。

とはいえ、政府は財政的な部分についてはほぼ把握している。
征信システムは、2006 年に初めて一般に公開され、2020 年に大幅に更新されましたが、本質的には米国の信用調査機関のスコアリングに相当する中国版であり、国の中央銀行によって維持されています。
これは、11 億 4,000 万人の中国人個人の金融履歴を記録しており (信用スコアは与えていない)、ほぼ 1 億社の企業 (スコアは与えていない) も記録している。

しかし社会面では、規制はまだらで曖昧だ。
これまで国政府は、企業の規制遵守に関するさまざまな政府機関のデータを集約する、個人ではなく企業に焦点を当てたシステムのみを構築してきました。
北京に本拠を置くコンサルタント会社トリヴィウム・チャイナのハイテク政策研究責任者、ケンドラ・シェーファー氏は、米国政府の米中経済安全保障検討委員会の報告書の中で、これを
「IRS、FBI、EPA、USDA、FDAとほぼ同等である」と述べた。
「HHS、HUD、エネルギー省、教育省、および米国内のすべての裁判所、警察署、大手電力会社が単一のプラットフォームで規制記録を共有しています。」この結果は、Credit China と呼ばれる最近構築された Web サイトで、中国国民なら誰でも公開して検索することができます。

しかし、そこには人々や他の種類の組織に関するデータもいくつかあります。
同じ Web サイトは、裁判所の判決を不履行した個人のリストなど、30 を超える (場合によっては非常に特殊な) データベースの中央ポータルとしても機能します。
合法的な中国の大学、ロボットの製造が認可された企業、保険詐欺が判明した病院。
それにもかかわらず、キュレーションは非常にランダムに見えるため、人々がポータルを一貫した、または包括的なデータ ソースとしてどのように使用できるのか理解するのは困難です。

社会信用システムは中国人の日常生活にどのような影響を与えるのでしょうか?

アメとムチの両方になるという考え方です。
したがって、すべての規制分野で良好な信用実績を持つ個人または企業は、政府と取引する際に、補助金の優先リストに載せられるなどの優遇措置を受ける必要があります。
同時に、信用情報の悪い個人や企業は情報を公表することで処罰され、政府調達入札への参加、贅沢品の消費、出国が禁止される。

備考

中国の社会信用スコアの狂気
「良いスコア」はあなたに𝘽𝙚𝙣𝙚𝙛𝙞𝙩𝙨をもたらしますが、「低いスコア」はあなたに𝘽𝙡𝙖𝙘𝙠𝙡𝙞𝙨𝙩𝙚𝙙 —— まともな仕事に就くことができず、ホテルの部屋に就くこともできません...子供たちは良い学校に通うことができません。
あなたの人生はいつでも「𝙎𝙬𝙞𝙩𝙘𝙝𝙚𝙙 𝙊𝙛𝙛」になれる

政府は昨年、許容される処罰措置を詳細に記載した包括的なリストを公表した。
一部の措置はより物議を醸しています。
例えば、裁判所が決定した賠償金を支払わなかった個人は、贅沢消費に当たるという理由で、飛行機で旅行したり、子供を高額な私立学校に通わせたりすることが制限される。
新しい法案は、このリストを定期的に更新するという約束を支持しています。

それでは、すべての中国国民を対象に計算された一元的な社会信用スコアは存在するのでしょうか?

いいえ、一般に信じられていることに反して、個人の中心となる社会信用スコアはありません。
そして率直に言って、※中国中央政府はこれを望んでいるという話をしたことはない。

※有言実行ではなく、不言実行？
て言うか、そんな話をするのか？

独り言

では、なぜ人々は、特に西洋では、存在すると考えるのでしょうか?

中央政府は、最新の法案でも、非金融分野で機能する社会信用システムを構築する方法についてほとんど指導していないため、都市や小さな町でさえ独自の解決策を実験する扉が開かれています。 

その結果、多くの地方自治体が社会信用規制がどのようなものであるかを定義しようとする試験的プログラムを導入しており、一部の自治体は非常に物議を醸している。

その最良の例は、おそらく世界で最も有名な社会信用スコアリング システムを導入した※人口わずか 50 万人の小さな都市、栄城市です。

※ブルネイの人口が44万人で第167位らしい。
日本だと、大分市ぐらいかな？

独り言

2013 年、市はすべての住民に、その善行と悪行に影響される基本個人信用スコア 1,000 を与え始めました。
たとえば、その後全面的に見直された2016年の規則では、市は「WeChat、フォーラム、ブログで有害な情報を拡散する」ことは50点を減点することを意味し、「全国レベルのスポーツまたは文化競技会で優勝する」ことは40点を追加することを意味すると決定した。
極端なケースでは、医療紛争に関する手紙をオンラインで繰り返し配布したため、ある居住者が 3 週間で 950 点を失いました。

このような採点システムは中国では省レベルや国家レベルに引き上げられたことがないため、その影響は非常に限られている。
しかし、Rongcheng のような試験的プログラムのニュースが西側に広まると、活動家グループやメディアに警鐘を鳴らしたのは当然であり、中にはそれが全国民に適用されるものであると誤解した者もいた。
ジョージ・ソロスやマイク・ペンスのような著名な人物は、その誤った考えをさらに増幅させました。

これらの試験的プログラムが国全体の正式な規則にならないことをどうやって知ることができるのでしょうか?

それを100％確信できる人は誰もいないが、社会信用規制に関しては、中国中央政府が実際に地方政府の不正行為を押し返してきたことは覚えておく価値があるだろう。

2020年12月、中国国務院は、地方政府が歩道橋渡り、間違ったリサイクル、マスク未着用などの些細な行為さえ罰する正当化として社会信用制度を利用しているとの報道に対応する政策指針を発表した。
※この指針では地方政府に対し、中国の現行法制度下ですでに違法となっている行為のみを処罰し、それを超えて処罰しないよう求めている。

※てことは、これをやっちゃいけないて指示はなかったて事？
法律を超えるて…それも中国の法律だよ。これも誤解かな？

独り言

「（多くの地方政府は）事業規制を通じて規制するのが難しい問題に直面したとき、クレジットを伴う解決策から支援を得ることを望んでいた」
と中国の最高経済計画当局の当局者リアン・ウェイリャン氏は12月25日の記者会見で述べた。
「これらの措置は法の支配と相容れないだけでなく、長期的に信用力を構築する必要性とも相容れない。」

そして中央政府の反発が功を奏したようだ。
栄成市の場合、市は社会信用スコアに関する地方規制を更新し、住民がスコアリングプログラムからオプトアウトできるようにした。
また、スコア変更の物議を醸す基準も削除されました。

このシステムには人工知能などの高度なテクノロジーが組み込まれていますか?

ほとんどの場合、そうではありません。
これも中国の社会信用システムに関するよくある俗説です。
人々は、10 億人を超える人々の社会的行動を追跡するには、データを収集して処理できる強力な中央アルゴリズムが必要だと想像しています。

しかし、そうではありません。
全員を採点する中央システムは存在しないため、そのような強力なアルゴリズムも必要ありません。
中国の社会信用システムの専門家らは、インフラ全体が驚くほどローテクであると指摘する。
中国当局者はシステムについて語る際にブロックチェーンや人工知能などの技術の名前を挙げることはあるが、これらの技術がどのように利用されるかについて詳しく話すことは決してない。
Credit China の Web サイトをチェックしてみると、それは個別のデータベースのデジタル化されたライブラリにすぎません。

「人間の規制当局の介入なしに、自動化されたデータ収集が自動的な制裁の適用につながった例は知られていない」
とシェーファー氏は報告書の中で述べた。
時には人間の介入が特に原始的である場合もあり、栄城の「情報収集者」は村を歩き回り、村人仲間の※善行をペンで書き留める。

※善行だけ？だったら物議を醸さない。

独り言

ただし、国家システムが構築されるにつれて、主に政府機関間でデータをプールするために、何らかの技術的要素が必要になるようです。
中国政府が他の政府機関が収集した記録に基づいてすべての政府機関が執行の決定を下せるようにしたい場合、データを保存、交換、処理するための大規模なインフラストラクチャを構築する必要がある。

この目的のために、最新の法案は、信用評価を実施し、さまざまな政府機関からのデータを組み合わせるために「統計的手法、モデリング、現場認証などの多様な手法」を使用する必要性について述べています。
「それは、もう少し技術的なものであるという漠然としたヒントしか与えてくれません」とダウム氏は言います。

中国のハイテク企業はこのシステムにどのように関与しているのでしょうか?

このシステムは非常にローテクであるため、中国のハイテク企業の関与は周辺的なものであった。
「大手ハイテク企業と小規模ハイテク企業は…非常に異なる役割を果たしており、非常に異なる戦略をとっている」
と、数年間中国でハイテク企業が社会信用システムにどのように関与しているかを研究したプリンストン大学の博士研究員シャゼダ・アーメド氏は言う。 

データベースやデータセンターなどのシステムの技術インフラストラクチャは、市や州政府から契約を受けた小規模企業が主に構築しました。
一方で、大手テクノロジー企業、特にソーシャル プラットフォームは、このシステムのメッセージを広めるのに貢献しました。
たとえば、アリババは、大規模な電子商取引プラットフォームを通じて収集した配送先住所を通じて、裁判所が判決を下すのを支援しています。
そして、TikTokの中国版であるDouyinは、中国の地方裁判所と提携して、裁判所の判決を無視した個人を公に辱めるために活動した。
しかし、これらの巨大テクノロジー企業は、データの提供や信用評価の作成といった中核的な機能には実際には関与していない。

※「彼らはそれを市民の責任、あるいは企業の社会的責任のようなものだと考えていました。もしあなたがこのように法律を破った場合、私たちは最高人民法院からこのデータを取り出し、私たちのプラットフォームであなたを罰します」
とアーメド氏は言う。

※アメリカのビックテックの建前みたいなこと言うな。
あれ？その点じゃ、ビックテックの方が、積極的だってことか？

独り言

アリババのフィンテック部門アント・グループのように、民間の金融信用スコアリング製品を開発した中国企業もある。
しかし、その結果、アリババのセサミクレジットと同様、ロイヤルティ報酬プログラムに近いものになったと複数の学者が指摘する。
Sesame Credit スコアは主に、アリババ独自のプラットフォームでのユーザーの購入履歴と融資活動に基づいて計算されるため、スコアは外部の金融機関が使用できるほど信頼性が低く、個人への影響は非常に限定的です。

こうしたことをすべて考慮すると、中国における社会信用システムの構築が及ぼす影響を依然として懸念すべきでしょうか?

はい。
すべての国民を採点する恐ろしいアルゴリズムが存在しないとしても、社会信用システムには依然として問題が存在する可能性があります。

中国政府は、社会信用に関連するすべての刑罰は既存の法律に従わなければならないと強調したが、そもそも法律自体が不当になる可能性がある。
「この制度が法の延長であると言うのは、それが施行する法律より良くも悪くもないということを意味するだけです。中国がますます人々の社会的・文化的生活に焦点を当て、娯楽、教育、言論の内容をさらに規制するにつれ、それらの規則も信用執行の対象となるだろう」とダウム氏は2021年の記事で書いた。

さらに、
「これは常に人々を政府に対して正直にすることであり、必ずしも国民同士に対してというわけではありません」
とアーメッド氏は言う。
正直さなどの道徳的な問題が法的な問題に変わると、誰が信頼できるかを決定する唯一の権限を国家が持つことになる。
「信用を失った個人」の責任を追及するために中国の裁判所がとった戦術の1つは、報酬と引き換えにその友人や家族に資産報告を促すことだ。
※「隣人を非難することで社会の信頼を高めているのか？それとも地元コミュニティに不信感を募らせているのでしょうか？」
彼女は尋ねます。

※文化大革命の密告とほぼ変わらん

独り言

備考

しかし結局のところ、社会信用システムは（まだ）人工知能のような先端技術の悪用を例示するものではなく、事実に基づいて評価することが重要です。
政府は現在、11月の文書草案に対する国民の意見を1か月間募集しているが、いつ可決され法律になるかについては予定されていない。
全国規模の社会信用システムの最終成果物が完成するまでには、まだ何年もかかる可能性がある。了

感想
あ~良かった、安心した。
とはならない。



















この記事が気に入ったらサポートをしてみませんか？