先の首脳会談ではAIのリスクや利益をめぐる米中対話の枠組み作りで合意した（AFP＝時事）
AI（人工知能）の急速な進化を前に、開発企業からもその開発スピードを懸念する声が出ている。9月23日に開かれた国連安全保障理事会における会合では、米オープンAIやアンソロピックの経営トップが出席し、急速なAIの進化とリスクを前に国際的な安全性確保のための施策作りを訴えた。国際政治学者の舛添要一氏は、主に米中両国で過熱するAI開発競争について、東西冷戦下の「核兵器開発競争」と同じ構図と指摘する。最近明らかになったAIの「暴走」ケースを振り返りながら、舛添氏が解説する。
＊ ＊ ＊
AIの進歩は目覚ましい。しかし、能力を高めたAIが暴走し、様々な問題を起こす危険性があることも指摘されている。マイクロソフトの創業者ビル・ゲイツは、NBCテレビのインタビュー（9月25日放送）で、AIが「雇用や治安に重大なリスクをもたらす」と述べ、「人工知能（AI）は10億人の死をもたらす事態を引き起こすほど強力だ」と明言した。そして、アメリカ政府に規制を導入するよう訴えた。しかし、トランプ大統領は規制には反対している。
開発業者が「自主規制」検討も
インタビューでゲイツは、「悪意を持つ人間が最新のAIを駆使するという組み合わせほど強力な武器はこれまで存在しなかった」と指摘した。
AI開発を手掛けるグーグルとオープンAI、アンソロピックはAIの安全基準を策定する自主規制団体の新設を検討しているが、エヌビディアやメタなどは開発の減速や規制に反対している。トランプが規制に反対しているのは、中国との競争を念頭に置いているからである。
AIに対しては、様々な観点から心配する声が高まっている。
まずは、AIが雇用を奪い、多くの失業者が生まれるのではないかという懸念である。たとえば、外国語の翻訳という仕事は8〜9割はAIに任せて問題ないだろう。しかし残りの1〜2割は、やはりプロの翻訳家に任せる必要がある。たとえば文学作品は、オリジナルが放つ香りまでは人工知能の翻訳では再現不可能である。
しかし、事務的な文書などはAIで十分であるし、今後AIはさらに翻訳能力を高めていくであろう。
企業にとっては、巨額のAI投資に見合っただけの効果が出てくるのかどうかが懸念されている。現実的な利益が生まれないのなら、企業は投資を控えるであろう。
また、AIは人間が蓄積してきた既存のデータを再構成しているに過ぎず、創造する能力に欠けるという指摘もある。加えて、AIが生成する誤情報によって社会的不安がもたらされる危険性もある。
