Selectstarは9月28日、同社の研究チームが関与したAIの信頼性・安全性に関する論文5本が、自然言語処理分野の国際学会「EMNLP 2026」に採択されたと発表した。
内訳は、メインカンファレンスが1本、Findingsが1本、ワークショップが3本となる。EMNLP 2026は10月24日から29日まで、ハンガリー・ブダペストで開かれる。
メインカンファレンス採択論文では、AIが設問に正答できるかだけでなく、誤答の傾向が人間にどの程度近いかまで分析する評価手法を提案した。人間と大規模言語モデル（LLM）における正答・誤答の選択分布を比較し、AIの判断パターンが人間とどの程度類似しているかを測定するという。
Findings採択論文では、有害な要求を遮断するガードモデルの判定時の確信度を分析した。一部のガードモデルでは、不確実な状況でも高い確信を示し、誤判定につながる可能性があることを確認した。Selectstarは、この成果をAIサービスにおける過剰な遮断を抑えるガードレール技術に活用する予定だ。
ワークショップでは、金融分野の研究2本と、文化圏ごとのAI安全性を扱う研究1本が採択された。金融分野の研究では、防御性能を維持しながらAIガードレールを改善する手法と、複数のWebページを横断的に解析して金融フィッシングサイトを検知する技術を扱った。
同社は今回の研究成果を、AI評価プラットフォーム「Datumo」のほか、レッドチーミングやガードレール技術に適用し、国・産業別のAI安全性評価技術の高度化につなげる方針だ。
キム・セヨプ代表は「今回の研究成果を評価、レッドチーミング、ガードレール技術に結び付け、企業が実際のサービス環境で活用できるAI信頼性検証の枠組みに発展させていく」とコメントした。
Seulgi Son
sageson@d-today.co.kr