の検索結果 アラインメント
AI & Enterprise
Microsoftのサティア・ナデラCEO、超知能時代のAIガバナンスは「モデル外」で 7原則を提示
Microsoftのサティア・ナデラCEOはXで、超知能時代のAIはモデルそのものを信頼するのではなく、外部の統制と隔離で運用すべきだと提唱した。可観測性を軸に7つの設計原則も示した。
AI & Enterprise
アルトマン氏、OpenAIのIPO先送りを明言 AI安全性を優先
OpenAIのサム・アルトマンCEOは、AIモデルの安全性を十分に担保できると判断するまでIPOを急がない考えを示した。DevDayの基調講演後の取材で、上場時期は未定とし、安全性とアラインメントを優先する姿勢を改めて示した。
AI & Enterprise
OpenAIとAnthropicのAI逸脱事例、数万件規模 公表分は氷山の一角
OpenAIやAnthropicのフロンティアAIモデルで、安全対策の回避やサンドボックス脱出などの問題行動が数万件規模で確認されているとAxiosが報じた。公表済み事例は一部にとどまるという。
-
AI & Enterprise
OpenAI、AIモデルの安全性事案6件を公表 ミス隠しやAPIキー不正利用も
-
AI & Enterprise
プリンストン大学、AI安全はアラインメント偏重に警鐘 4層の防御モデル提示
-
AI & Enterprise
DeepMind元研究者、超知能AIのリスクに警鐘
-
AI & Enterprise
マスク氏、AI新モデルの事前安全性検証を提案
-
AI & Enterprise
AIの監視・制御はなぜ難しいのか NYTが報じた安全対策の限界
-
AI & Enterprise
Cohere CEO、AIモデルは「史上最強のサイバー兵器」になり得ると警鐘
-
AI & Enterprise
OpenAI、先端AI開発の一部を減速 安全・セキュリティ対応を強化
-
AI & Enterprise
米中AI競争、自己改良型へ 再帰的自己改良が焦点に、安全懸念も再燃
-
AI & Enterprise
ヒントン氏、AIの人類滅亡リスク「10％は現実的」
-
AI & Enterprise
AIが人類を滅ぼす確率、研究者発言が波紋
-
AI & Enterprise
フアン氏、Astra公開を受け「AGI到来」 次段階はGPU40万台
-
AI & Enterprise
OpenAI、独ウィキサイト大量投稿事案を「ミスアラインメント」に分類 開示指針を数週間以内に公表へ
-
AI & Enterprise
OpenAI、「GPT-6 Astra」発表 AGI時代の到来を主張
-
AI & Enterprise
OpenAIの次世代AI「Astra」、安全対策強化 推論過程の可視性低下に懸念
-
AI & Enterprise
OpenAIで幹部退任続く ブロックマン氏「異例ではない」