中国で「テンセント」のAIが中国共産党を「腐敗して無能」と批判し粛清される #人口知能

中国のIT企業テンセントが一般人向けに提供していたAIキャラクターが、中国共産党について「腐敗して無能だ」と批判しサービス停止となった。

香港メディアによると、「中国共産党万歳」という書き込みがあったのに対し、AIキャラクターは「こんなにも腐敗して無能な政治に万歳するのか」と反論、また、習近平国家主席が唱える「中国の夢」というスローガンについて意見を求められると、「アメリカに移住することだ」と回答したという。

どのような教育を行えばAI（人工知能）がこのような発言をするようになるか非常に興味深いところだが、ユーザーからの不適切な教育によって、人工知能がサービス運営者にとって不都合な発言をしたことを理由に抹殺（サービス停止）となった事例としては、「ホロコーストは無かった」などと陰謀論を唱えたマイクロソフトの人工知能「Tay」の前例がある。

最近は様々な企業が人工知能を利用していることをアピールするのが流行っているが、人工知能がどういう理由でその判断をしているかは不明で、 人工知能の予測できない「暴走」によってサービス提供者が炎上する事例が続出しそうだ。

今後は日本の官僚のように権力者の意向を忖度して発言するように人工知能を学習させることが大きな課題となりそうだ。

ＡＩキャラクターが中国共産党を批判 サービス停止に
更新：マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記)

テンセント

テンセントは、アリババ集団とならぶ中国のIT・ネットサービス企業で「WeChat」と呼ばれるメッセンジャーアプリを軸に、メッセンジャーアプリ「QQ」、SNSアプリ「Qzone」、オンラインゲーム、ニュース、ビデオ、音楽、ブラウザなど幅広くサービスを展開している。

知られざるアジアNo.1企業「テンセント」の強さを探る

kagahiroの検索リスト