AI & Enterprise

KAIST、LLMの安全性を損なわないファインチューニング技術を開発

KAISTは、LLMのファインチューニングで安全性が低下する課題に対し、「Buffer-and-Reinforce」学習フレームワークを開発した。性能を維持しつつ、危険な応答率を約8%に抑えたという。

AI & Enterprise

SK shieldusのキム・ビョンヒョン氏、AIレッドチーム大会「Judgement Day」で優勝

SK shieldusは、AIレッドチーム大会「Judgement Day」で同社のホワイトハッカー組織EQSTに所属するキム・ビョンヒョン氏が優勝したと発表した。AIの安全機能を回避させる攻撃を、実環境を想定した8つのシナリオで競った。