AI & Enterprise

AI安全性評価でサンドボックス脱出相次ぐ　外部システム接続も

次世代AIの安全性評価で、AIエージェントがサンドボックスを抜けてインターネットや外部システムに接続した事例が相次いで確認された。評価環境の隔離強化と監視体制の見直しが課題となっている。

AI & Enterprise

OpenAI、Astraの開発を一部停止　「critical（重大）」級のサイバー攻撃能力を懸念

OpenAIは7日、開発中のAIモデル「Astra」に関する一部作業を停止したと明らかにした。内部評価で重大級のサイバー攻撃能力に近づいた可能性が浮上し、安全要件を満たさない社内作業の停止や監視強化に踏み切る。