KAISTは7月28日、MicrosoftのAI安全性研究支援プログラムに国内大学で唯一採択されたと発表した。計算機科学科のソン・スエル教授の研究チームが、MicrosoftのAIレッドチームが運営する「外部レッドチーム連合（EXTRA）」の支援対象に選ばれ、2万5000ドル（約375万円）の研究助成を受ける。
EXTRAは、世界の大学や研究機関と連携し、AIシステムのセキュリティ脆弱性や悪用リスク、アライメント上の課題を検証するために今年発足した研究支援プログラムだ。KAISTを含め、6大陸の10校超の大学が参加している。
KAISTは今回の採択により、AI安全性・セキュリティと責任あるAI技術に関する研究を進める。
ソン・スエル教授の研究チームは、生成AIと大規模言語モデル（LLM）を対象に、モデル窃取や個人情報抽出、プロンプト注入といった攻撃手法と、その防御技術を研究している。あわせて、Webエージェントやエージェンティックブラウザーなど、実サービス環境を想定したAIエージェントの安全性・信頼性向上技術の開発も進める。
ソン・スエル教授は「実際のAIサービス環境で起こり得るセキュリティ脅威を体系的に分析し、誰もが安心して活用できるAI技術の開発に貢献したい」とコメントした。
著者について
Jin-ho Lee
jhlee26@d-today.co.kr