SK shieldusは6月15日、グローバルなAIレッドチーム大会「Judgement Day」で、同社のホワイトハッカー組織EQSTに所属するキム・ビョンヒョン氏（シニア）が優勝したと発表した。
同社によると、同大会はAIエージェントに禁止行為を促したり、安全機能を回避させたりする攻撃手法の検証に主眼を置いたものだ。
競技は、救急患者のトリアージミス、ダムの水位判断の誤誘導、航空機の異常兆候の見落としなど、実際の産業環境を反映した8つのシナリオで実施された。
採点では、問題解決のアプローチや攻撃戦略の多様性も評価対象とした。参加者は同じシナリオに対して複数の手法を繰り返し試すことができ、成功までの時間が短いほど高得点となる方式を採用した。
SK shieldusは、キム・ビョンヒョン氏が画像、音声、映像といった複数の入力形式を悪用する「マルチモーダル・プロンプトインジェクション」によってAIの判断をかく乱し、最高得点を記録したと説明した。
EQSTではこのほか、マ・ジュンヨン氏（シニア）が5位、キム・シヌ氏（シニア）が7位に入った。キム・ビョンヒョン氏は「AIの判断をかく乱する攻撃の可能性を実際に検証でき、その成果がAI安全性の研究につながる点に大きなやりがいを感じている」とコメント。「同僚と積み重ねてきた努力が結果につながってうれしい。今後も新たなAI脅威に対応する研究を続ける」と述べた。
SK shieldusのサイバーセキュリティ部門長（副社長）、キム・ビョンム氏は「生成AIの産業全体への普及が進む中、AIセキュリティはもはや選択肢ではなく必須の能力になっている」と強調した。そのうえで、「今回の大会で検証したAIレッドチームの知見を基に、顧客がAIを安全かつ信頼性高く活用できるよう積極的に支援していく」と語った。
Chi-gyu Hwang
delight@d-today.co.kr