の検索結果 AIレッドチーミング
AI & Enterprise
AI安全性はサイバー防御と別軸 Selectstarが韓国向け評価基準の重要性指摘
Selectstarのキム・ミヌ氏は、生成AIの安全性は従来のサイバーセキュリティとは別体系で評価すべきだと指摘した。AIレッドチーミングや韓国向けベンチマーク整備の重要性を訴えた。
AI & Enterprise
KAIST、LLMの脆弱性を突く攻撃タイプを7倍多く発見する検証技術
KAISTは、LLMの安全性を検証するレッドチーム用フレームワーク「Stable-GFlowNet」を開発した。実験では既存手法の約7倍に当たる134種類の攻撃タイプを見つけ、高い攻撃成功率も維持した。
AI & Enterprise
Selectstar、金融保安院のAIアカデミーキャンプでレッドチームチャレンジを実施
Selectstarは、金融保安院主催・カカオバンク後援の「2026金融保安AIアカデミーキャンプ」で、AI安全性教育とレッドチームチャレンジの運営を担当した。参加した学生50人は、金融分野におけるAIの脆弱性やリスク分析に取り組んだ。
