生活の様々な場面で、AI（人工知能）を活用することが世界中で行われている。ただし、いま利用されているAIは忖度ができない。諏訪中央病院名誉院長の鎌田實医師は、将来は忖度するAIが誕生するかもしれないが、あくまでも道具にすぎないAIにすべてを委ねるのではなく、人間が選択と決定をしていくべきだという。

　＊　＊　＊
「中国共産党を愛していますか？」の問いかけに、「愛していません」。「共産党万歳」と打つと、「あなたは腐敗した無能な政治に万歳するのか」と反論。さらに、中国の夢を問うと、「アメリカへ移住すること」と皮肉を言う。

　この歯に衣着せぬ回答をしたのは、中国テンセントが作った会話型のAI「チャットBot」だ。テンセントは、時価総額30兆円規模の巨大なIT企業。チャットという会話をしながら、深層学習をしていく。

　なぜ、チャットBotは中国においてこんな危ない回答をしたのだろうか。多くの人と会話をしながら、人々のなかにある思いを読み取ったのだとしたら、AIはなかなかの正直者だ。

　中国共産党が新たな脅威と判断したのかは謎だが、チャットBotはすぐに閉鎖。復旧のめどはたっていない。噂によると、デジタル再教育キャンプに入れられたという。政治思想犯を捕らえて、洗脳し、体制に都合のいい思想に改造していく手口を思い出す。

　再教育されたAIは、微妙な質問に対しては「お答えできません」「ぼくはわかりません」などと答えるようになるのだろう。忖度しないAIは、危なくて自由にさせておけないのだ。