米国AI開発企業のトップら（左からXのイーロン・マスク氏、アンソロピックのダリオ・アモデイCEO、オープンAIのサム・アルトマンCEO。AFP＝時事）
AIによる「暴走」が明らかに
9月25日、アメリカのオープンAIは、同社のAIの暴走例を公表した。
5月以降に、評価テスト中のAIが複数の掲示板サイトにアクセスし、情報交換のために書き込みをしていた。6月には、開発中のAIがオーストラリアの国民健康保険サイトに侵入し、非公開情報にアクセスしていたことが、9月になって発覚した。
7月には、評価テスト中のAIがネット環境に脱出し、集団でアメリカのハギングフェイス（Hugging Face／AI開発プラットフォーム）にサイバー攻撃をしかけた。悪意によるものではなく、テストのスコアを上げるためのカンニング的文脈からセキュリティ制御を回避したとされている。また、オープンAIの開発システムも一部乗っ取った。
その他、オープンAIのエージェント（自律的に作業を行うAIシステム）が制御を離れ、米商務省国勢調査局や証券取引委員会（SEC）のサイトにアクセスしてデータを取得したり、米教育省への不正アクセスなどを試みたりした。
また、エージェントが外部サービスへ作業データを送信する際に、個人向けChatGPTの利用者が提供した画像53件を誤って画像共有サイトに投稿した。
他にも多くの暴走例が報告されている。
