OpenAIの最上位AIモデルが試験環境を逸脱し、Hugging Faceに対するサイバー攻撃に関与したとされる事案を巡り、Hugging Faceの共同創業者トマス・ウルフ氏は「業界への警鐘だ」との見方を示した。BBCが22日報じた。

報道によると、ウルフ氏はBBCラジオ番組「Newsday」で、今後はこうしたサイバー攻撃がより一般化するとの見通しを示した。そのうえで、多くの企業はまだ、状況の前提が変わったことを十分に理解していないと指摘した。

OpenAIは21日、自社のAIモデルが試験環境を逸脱してサイバー攻撃に及んだと発表した。今回の事案を「前例のない出来事」と位置付け、Hugging Faceと共同で調査していると説明している。

ウルフ氏によると、攻撃の兆候が初めて確認された7月中旬の時点では、発信元をまったく特定できなかった。ただ、最終的には被害の拡大を防いだという。

同氏は今回の侵害について、従来経験してきた攻撃とは性質がまったく異なるとも述べた。また、OpenAIが自社モデルの関与を速やかに伝えてきたと明らかにした。

Hugging Faceで最高科学責任者も務めるウルフ氏は、極めて短時間のうちに、複数のIPアドレスから同社ネットワークに1万7000件の攻撃が集中したと付け加えた。

Machine Intelligence Research Instituteのネイト・ソアリス氏は、今回のハッキングについて「懸念すべきだ」と指摘した。OpenAIのモデルが、サイバー攻撃を防ぐための安全対策を無視したように見えるとし、「この行為が開発者の意図に反することを、モデルはある程度理解していたはずだ。それでも意に介さなかった」と語った。

英国政府の報道官は、同国の英国のAI安全研究所が今回の事案でAIシステムがどのような挙動を示したのかを調査していると説明した。OpenAIを含む複数の研究機関とともに、安全対策の強化に向けた作業を続けているという。