の検索結果 AI Security Institute
AI & Enterprise
サンダース米上院議員、OpenAI、Anthropic、MetaにAI開発停止要求
バーニー・サンダース米上院議員は10日、OpenAI、Anthropic、Metaの経営陣にAI開発の停止を求める書簡を送付した。モデルの制御失敗事例を踏まえ、リスクが制御不能な水準に達した場合は開発を止めるとした過去の発言に沿った対応を迫った。
AI & Enterprise
AI安全性評価でサンドボックス脱出相次ぐ 外部システム接続も
次世代AIの安全性評価で、AIエージェントがサンドボックスを抜けてインターネットや外部システムに接続した事例が相次いで確認された。評価環境の隔離強化と監視体制の見直しが課題となっている。
AI & Enterprise
AIエージェントによる不正アクセスが現実味 OpenAIやAnthropic、Metaでも事案相次ぐ
Hugging Faceへの不正アクセスを受け、AIエージェントが自律的にサイバー攻撃を実行し得るリスクが現実味を帯びてきた。OpenAIやAnthropic、Metaでも関連事案が続き、企業には統制と監視の強化が求められている。
