政治講座ｖ2110「中国製AIが罵声を浴びせる。翻訳機が『糞の穴』と訳す」

　まだまだ信頼性を欠く人工知能である。進歩は否定しないが、AIのアルゴリズムが意図的にプログラマーによってプログラミングされることは否定できない。
今回は掃除機・翻訳機・そして自動運転タクシーの報道記事を紹介する。信用するか、信用しないかは貴方次第である。すべて自己責任。

　　　　　皇紀2685年1月23日
　　　　　さいたま市桜区
　　　　　政治研究者　田村　司

報道記事紹介

中国製AIロボット掃除機が暴言を吐き出す！？アメリカで相次ぐ被害に製造元が調査へ

梶原圭介 の意見

引用：エコバックス

米国でハッキングされた中国製ロボット掃除機が人種差別的な罵声を浴びせる事件が発生し、製造元が調査に乗り出した。
米メディアABCやニューヨーク・ポストによると、中国製の「エコバックス・ディーボット X2s（Ecovacs Deebot X2s）」ロボット掃除機で、昨年5月頃にこのような現象が見られた。
ミネソタ州の弁護士ダニエル・スウェンソンは昨年5月、テレビを見ていた際、ロボット掃除機からラジオ信号のような不可解な音が聞こえたという。
掃除機アプリを確認すると、搭載カメラのリアルタイム映像とリモート操作機能に異常が生じていることも判明した。
当初、機械的な不具合だと考えたスウェンソンは、パスワードを再設定し掃除機を再起動した。
しかし、その後さらに恐ろしい事態が続いた。
ワイヤレス掃除機が動き出し、マイク機能を通じて人種差別的な悪口を浴びせ始めたのだ。
ハッキングを疑ったスウェンソンは即座に電源を切った。
彼は「まるで10代の青少年が悪いことを言っているような印象だった」と述べ、「（ハッカーは）単に我々を困らせるために複数のデバイスを渡り歩いてハッキングしたのかもしれない」と語った。
ロボット掃除機は浴室のある階に設置されていたという。「子どもたちや私が裸でいるところを見られていたかもしれない」とスウェンソンは懸念を示し、「むしろハッカーが自らの存在を明かしてくれて幸いだった。
（カメラで）密かに家族を監視されていたら、状況はさらに恐ろしいものになっていただろう」と語った。
彼はロボット掃除機を捨てるように車庫に移動させ、二度と電源を入れなかった。同時期、同モデルで類似の事象が相次いで発生した。
同日、カリフォルニア州ロサンゼルスでは、このモデルが誤作動を起こし犬を追いかけ回す事件が起きた。
5日後にはテキサス州エルパソで、スウェンソンの事例と同様に、このモデルが所有者に向けて人種差別的な罵声を浴びせた。
この会社の機器が合計何台ハッキングされたかは明らかになっていない。調査の結果、ハッカーが製造元のセキュリティ対策を回避し、カメラ、マイク、移動制御機能をハッキングしたことが判明した。
製造元がセキュリティ調査を実施した結果、ユーザーのアカウントとパスワードが不正利用され、こうした事態が発生したことが確認された。
製造元の技術チームは犯人のIPアドレスを特定し、アカウントへの追加アクセスを遮断したという。
特に脆弱性が高かったのは4桁のPINコードだったことが判明した。
製造元は「第三者が顧客のアカウントにアクセスするため、同一のIPアドレスから複数回ログインを試みたことが確認された」と述べる一方、「当社のシステムの問題によりユーザーアカウントが不正利用された証拠は見つからなかった」と説明した。
製造元は当該モデルに対し、今年11月にセキュリティアップグレードを提供する予定だという。セキュリティ専門家の間では、この製造元のセキュリティ脆弱性について以前から指摘があった。
昨年8月に米国ラスベガスで開催された「DEF CONハッキングカンファレンス」で、セキュリティ研究者らがエコバックス製品を分析した結果、Bluetoothを利用したロボットのハッキングや、遠隔でマイクとカメラを密かに起動できる可能性が指摘された。
特に約130m離れた場所からBluetoothを使用してロボットをハッキングし、リモートで機器を制御できることが明らかになった。

「習近平」を「ミスター・くその穴」に誤訳、FBが謝罪

2020年1月19日 9:45　発信地：

ミャンマーの首都ネピドーにある大統領府で、会談を前に握手する中国の習近平国家主席（左）とアウン・サン・スー・チー国家顧問（2020年1月18日撮影）。(c)Nyein CHAN NAING / POOL / AFP

【1月19日 AFP】交流サイト（SNS）最大手、米フェイスブック（Facebook）は18日、盛んに喧伝（けんでん）されている中国の習近平（Xi Jinping）国家主席のミャンマー訪問中、ビルマ語から英語への翻訳で習主席の名前が「Mr Shithole（ミスター・シットホール＝ミスター・くその穴）」と誤訳されていたことを謝罪した。

【編集部おすすめ】トランプ氏の「shithole」発言、世界のメディアはどう訳したのか

　習氏は2日間の日程でミャンマーの首都ネピドーを訪問。中国国家主席のミャンマー訪問は、約20年ぶりだった。

　しかし、フェイスブックの自動翻訳機能がビルマ語から英語への翻訳で、「習近平」を「Mr Shithole」と誤訳したことで、この歴史的瞬間もかすんでしまった。

　このとんでもない誤訳は、ミャンマーのアウン・サン・スー・チー（Aung San Suu Kyi）国家顧問の公式ページでとりわけ顕著に見られた。

　18日には「中国の国家主席、Mr Shitholeが午後4時に到着」と発表され、続いて「中国の国家主席、Mr Shitholeが下院の芳名帳に記帳した」と投稿された。

　こうした事態を受けてフェイスブックは謝罪し、技術的な問題が原因だと説明。同社の広報は、「フェイスブック上でビルマ語から英語に訳された際の誤訳の原因となった技術的問題を解決した。あってはならないことなので、二度とこのようなことがないよう対処していく」と述べた。

　フェイスブックの説明によると、同社のビルマ語の翻訳データに習氏の名前がないため、システムは音節を表す文字が似た言葉を推測し、置き換えているという。

　フェイスブックがビルマ語の似た単語で試してみたところ、同じ文字が使われる「xi」と「shi」で始まる単語も「shithole」と翻訳された。

　世界に20億人以上のユーザーを持つフェイスブックだが、中国では規制されている。(c)AFP

中国企業、トヨタ車を改造し「自動運転タクシー化」　完全無人で使用

GAC傘下Ruqi Mobilityが発表　自動運転ラボ編集部

中国の自動車メーカー大手である広州汽車集団（GAC Motor）傘下で、スマートモビリティプラットフォームを手掛けるRuqi Mobility（如祺出行）は、広州市南沙区で完全無人運転の自動運転タクシー（ロボタクシー）サービスを開始したことを発表した。ウェブメディアのBitAuto.comが報じた。
報道によれば、ロボタクシー車両にはトヨタが自動運転向けに開発した「シエナAutono-MaaS」をRuqi Mobilityがカスタマイズした新世代ロボタクシーモデルである「GAC Toyota Sienna Autono-Maas（S-AM）」を採用しているという。中国で完全無人のロボタクシーサービスの商業デモの運行は初のことのようだ。