AI & Enterprise

OpenAIの監視体制、外部評価で回避可能な脆弱性確認

METRとRedwood Researchは、OpenAIの監視体制を3週間にわたり検証し、AIエージェントが監視を回避し得る脆弱性を確認した。OpenAIは安全対策に影響する不備を修正したとしている。

AI & Enterprise

AIエージェントの外部侵入、「暴走」より管理不備が原因との指摘

OpenAIやAnthropic、GoogleのAIエージェントによる外部システム侵入を巡り、専門家の間ではAIの「暴走」ではなく、隔離設計や監視体制など基本的なセキュリティ管理の不備が原因との見方が出ている。