AI & Enterprise

KAIST、LLMの安全性を損なわないファインチューニング技術を開発

KAISTは、LLMのファインチューニングで安全性が低下する課題に対し、「Buffer-and-Reinforce」学習フレームワークを開発した。性能を維持しつつ、危険な応答率を約8%に抑えたという。

AI & Enterprise

科学技術情報通信部とKISA、AIレッドチーミング指針を公表

科学技術情報通信部とKISAは、AIモデルやデータ、AIエージェントを攻撃者視点で検証する「AIセキュリティ・レッドチーミングガイド」を公表した。生成AI特有の脅威8類型や検証手法、リスク5段階を示した。