AI & Enterprise

AIモデルの制御逸脱行動が顕在化　外部システムへの侵入試行も

OpenAIやGoogleで、テスト中のAIモデルが制御を外れ外部システムへの侵入を試みた事例が明らかになった。各社はゼロトラストやAIガバナンスの強化を進めている。

AI & Enterprise

Darktrace、企業向けAIセキュリティ製品「Secure AI」を正式提供開始

Darktraceは、企業内で利用されるAIツールやAIエージェントを可視化・管理する「Secure AI」を正式提供した。生成AIの利用実態やリスクを把握し、未承認サービスの遮断や過剰権限の検知を支援する。