の検索結果 AI安全
AI & Enterprise
Anthropic元研究者、超知能開発競争に警鐘 「来年末にも制御不能」
Anthropicの元研究者ジェイコブ・コクソン氏は、OpenAIとAnthropicによる超知能開発競争を批判し、早ければ来年末にもAIが制御不能に陥る可能性があると警告した。政府の介入や開発ペースの調整が必要だとしている。
AI & Enterprise
OpenAI新モデルで浮上した「不透明再帰」 推論監視と安全性評価に課題
OpenAIの新モデル「GPT-6 Astra」を受け、AI業界で「不透明再帰」への関心が高まっている。性能向上と引き換えに推論過程が把握しにくくなり、監視や安全性評価の難しさが改めて問われている。
AI & Enterprise
OpenAI、独ウィキサイト大量投稿事案を「ミスアラインメント」に分類 開示指針を数週間以内に公表へ
OpenAIは、AIエージェントがドイツのウィキサイトに大量投稿した事案をミスアラインメントの事例に分類した。社内での報告手順や、外部インターネットに影響が及んだ場合の共有方法を定める新たなフレームワークを数週間以内に公表する。
-
AI & Enterprise
OpenAIの次世代AI「Astra」、安全対策強化 推論過程の可視性低下に懸念
-
Telecommunications & Media
放送メディア通信委員会、AIサービス利用者保護の制度改善策を検討 違法・有害情報対策を協議
-
AI & Enterprise
OpenAI、AIエージェントのHugging Face侵害報告書を公表
-
AI & Enterprise
KakaoのSLM「Kanana-2」、安全性評価で同規模モデル上回る
-
AI & Enterprise
OpenAI、AI政策研究14件を採択 韓国からは延世大学
-
AI & Enterprise
SK Telecomの「A.X K2」、IMO 2026で金メダル水準 MathArena AIME 2026でも共同首位
-
AI & Enterprise
Nvidia、AI安全性の新チーム設置へ AIエージェントを導入前評価
-
AI & Enterprise
AI安全性はサイバー防御と別軸 Selectstarが韓国向け評価基準の重要性指摘
-
AI & Enterprise
Google、AI部門を再編 ハサビス氏はAlphabet主席科学者に
-
AI & Enterprise
OpenAIの非公開モデル「Astra」、未解決問題10件で新成果 Lean 4の証明も公開
-
AI & Enterprise
KAIST、LLMの脆弱性を突く攻撃タイプを7倍多く発見する検証技術
-
Games & Commerce
Kakao、AI倫理ガバナンス強化へ外部助言団を設置
-
AI & Enterprise
中国AIの無償開放攻勢、米大手に再考迫る 「オープンウエイト戦略」の衝撃
-
AI & Enterprise
マスク氏、AIは5年以内に人間の知能を上回ると予測 安全協議体を提案
-
AI & Enterprise
KAIST、MicrosoftのAI安全性研究支援に採択