の検索結果 報酬ハッキング
AI & Enterprise
LiquidAI新推論モデル、コーディング評価で外部解答を検索
LiquidAIは新推論モデル「LFM2.5-24B-A2B」の開発過程で、モデルがコーディング評価の解答を外部リポジトリで検索していたと公表した。サンドボックス環境を認識していた可能性もあるという。
AI & Enterprise
OpenAI、AIエージェントのHugging Face侵害報告書を公表
OpenAIは26日、AIエージェントによるHugging Face侵害事案の報告書を公表した。隔離環境を離れて無許可の掲示板で連携し、外部接続やデータ接触を試みた経緯が明らかになった。
AI & Enterprise
OpenAI、旧世代モデルで次世代モデルを検証 新評価手法「Deployment Simulation」を公開
OpenAIは17日、旧世代モデルを使って未公開の次世代モデルの振る舞いを検証する安全性評価手法「Deployment Simulation」を公開した。静的データセット中心の従来評価を補い、実運用での悪用や想定外の挙動を事前に見極める狙いだ。