Cohereのエイダン・ゴメズCEOは、AIモデルがセキュリティ上の脆弱性を大規模に見つけ出し、悪用できる可能性があるとして、「史上最強のサイバー兵器」になり得ると警鐘を鳴らした。対策として、企業はAIを防御側でも活用し、自社システムの弱点を先に特定して修正すべきだと訴えた。
CNBCが14日（現地時間）に報じた。これに関連して、ゴメズ氏は「AIモデルがサイバーセキュリティの攻防を新たな段階に押し上げている」としたうえで、「脆弱性を見つけ出し、悪用する能力が非常に高い」と指摘した。
そのうえでゴメズ氏は、AIを防御目的でも積極的に活用すべきだと主張した。企業がAIモデルを使って自社システムの脆弱性を先回りして洗い出し、修正することが、現時点で最優先の課題だと強調した。
AIの安全性を巡っては、開発ペースを抑えるべきだとの声も強まっている。Anthropicのダリオ・アモデイCEOは13日に公開した文章で、AI研究所はモデル性能の向上ペースを抑制すべきだと主張した。
アモデイ氏は、OpenAIとHugging Faceを巡る事案について、直接的な被害は大きくなかったとしながらも、より高い能力を持つアラインメントされていないエージェント群であれば、壊滅的な被害を招く可能性があったと警告した。
著者について
Chi-gyu Hwang
delight@d-today.co.kr