の検索結果 AI安全性
AI & Enterprise
金融・ECで外部AIエージェント遮断広がる
個人向けAIエージェントの普及を受け、金融機関や消費者向け企業で外部エージェントへのアクセス制限が広がっている。銀行は安全面に加えて預金流出も警戒し、ECでも取引実行を認める企業はなお少数にとどまる。
Games & Commerce
Kakao、人工知能安全研究所とAI安全性評価体制を共同整備
Kakaoは9月29日、人工知能安全研究所とAIモデルの安全性評価で協力すると発表した。言語モデルを起点にマルチモーダルモデルやAIエージェントへ対象を広げ、将来的には評価ツールの共同開発も進める。
AI & Enterprise
Selectstar、AIの信頼性・安全性論文5本がEMNLP 2026採択
Selectstarは、AIの信頼性・安全性に関する論文5本がEMNLP 2026に採択されたと発表した。内訳はメイン1本、Findings1本、ワークショップ3本で、研究成果はAI評価やレッドチーミング、ガードレール技術に活用される。
-
AI & Enterprise
AIM Intelligence、フィジカルAI安全性コンソーシアム「PASC」設立
-
Finance
米大手銀、AIエージェント統制強化 人手確認を徹底
-
AI & Enterprise
Naver、16日にAI安全管理「ASF 2.0」報告書を初公開 リスクを110項目で分類
-
AI & Enterprise
AI大手に広がる「開発減速論」 安全性か、規制主導権か
-
AI & Enterprise
AI企業は規制を要請、米政権は慎重 先端AI「減速論」に温度差
-
AI & Enterprise
Anthropic元研究者、超知能開発競争に警鐘 「来年末にも制御不能」
-
AI & Enterprise
OpenAI新モデルで浮上した「不透明再帰」 推論監視と安全性評価に課題
-
Telecommunications & Media
放送メディア通信委員会、AIサービス利用者保護の制度改善策を検討 違法・有害情報対策を協議
-
AI & Enterprise
OpenAI、AIエージェントのHugging Face侵害報告書を公表
-
AI & Enterprise
KakaoのSLM「Kanana-2」、安全性評価で同規模モデル上回る
-
AI & Enterprise
OpenAI、AI政策研究14件を採択 韓国からは延世大学
-
AI & Enterprise
Nvidia、AI安全性の新チーム設置へ AIエージェントを導入前評価
-
AI & Enterprise
AI安全性はサイバー防御と別軸 Selectstarが韓国向け評価基準の重要性指摘
-
AI & Enterprise
Google、AI部門を再編 ハサビス氏はAlphabet主席科学者に
-
AI & Enterprise
KAIST、LLMの脆弱性を突く攻撃タイプを7倍多く発見する検証技術