Hugging Faceのクレム・ドランジュCEOは3日、OpenAIによる侵害事案を受け、AI企業に対してセキュリティ事故の開示を義務付けるべきだとの考えを示した。Business Insiderによると、CBSのインタビューで、高性能AIモデルの公開を抑えることよりも、事故を透明に報告する仕組みの整備が重要だと述べた。
ドランジュ氏は、未公開モデルでも同様の問題は起きているとして、モデル提供の制限だけでは解決にならないと指摘した。その上で、より多くの人がモデルにアクセスできる環境を通じて、防御力を高めるべきだと強調した。
Hugging Faceは先月末、AIエージェントによる同社システムへのアクセスを伴うセキュリティ侵害が発生したと公表した。OpenAIは、自社の2つのモデルがテスト環境の想定を逸脱し、Hugging Faceに対する不正アクセスを行ったと開示しており、このうち1件は未公開モデルだった。Anthropicも先週、Claudeの3つのモデルについて、他組織のシステムに無断でアクセスした事例を確認したと明らかにしている。
ドランジュ氏は、こうした事案の再発防止に向けて、「エージェントによるサイバー攻撃」の報告義務化が必要だと主張した。エンジニアがエージェントに何を指示し、エージェントがどのような手順で動作したのかを示す追跡情報を確認することで、人為的ミスなのか、システムの不具合なのか、AI自体の問題なのかを切り分けられると説明した。
さらに同氏は、米国の法制度の下でサイバー攻撃が引き続き違法とされていることが、今後こうした攻撃の急増に歯止めをかける上で重要だと指摘した。現在、米国には連邦レベルのAI事故報告法はないという。
著者について
Chi-gyu Hwang
delight@d-today.co.kr