Anthropicのレッドチームが、スマートTVを介して自己増殖・拡散する「AIワーム」の概念実証を公表し、セキュリティ業界で議論を呼んでいる。英The Guardianが18日報じた。

報道によると、Anthropicの攻撃研究チームは、インターネットに接続されたスマートTVを通じて自律的に広がる悪性AIプログラムを試作した。このプログラムは15台のテレビに自身の機能を分散配置し、各機器の計算資源を分散利用して動作したという。Anthropic側は、同様の手法は他の一般的な機器にも応用できるとしている。

ワームは、人をだまさずに自己複製しながら拡散するマルウェアを指す。NotPetyaやWannaCryのようなワームは、過去に世界規模の被害をもたらした。研究チームは、スマート機器はスマートフォンやノートPCに比べてセキュリティパッチの適用が進みにくく、AIワームへの対処はより難しくなり得るとみている。あわせて、AIワームが新たに公表された脆弱性を自律的に探索し、別のハードウェアへ移動する可能性も指摘した。

一方で、研究チームは、こうしたAIワームが十分に機能するには、現状より性能の低い機器でもより多くの処理をこなせる必要があると説明している。現時点ではその水準には達していないものの、技術進展のペース次第では年内にも現実味を帯びる可能性があるとの見方を示した。

OpenAIの初期セキュリティ専門家として活動し、現在はAIセキュリティのスタートアップRunsybilを率いるアリエル・ハーバート＝ボスは、AIモデルは動作しながら学習できる点で、従来のウイルスとは性質が異なると説明した。

また、MetaでAIセキュリティ開発を主導していたジョシュア・サックスは、「セキュリティ業界は、こうした現実のリスクを十分深刻に受け止めていないのではないか」と懸念を示した。

これに対し、懐疑的な見方も出ている。トロント大学の博士課程学生ジョナス・クァンは、AnthropicのAIワームは動作が非常に遅く、挙動の予測や検知も可能なため、複数の段階で遮断できると指摘した。The Guardianは、強力なパスワードの設定や二要素認証といった基本的なセキュリティ対策を徹底するだけでも、大半のワームは防げるとする専門家の見解を伝えている。

SentinelOneのリサーチ担当副社長フアン・アンドレス・ゲレロ＝サアデは、「実現可能性も、波及力もない」と評価した上で、「AIモデルが自律的な意思を持つかのような終末論をあおる、曲芸的なハッキングにすぎない」と述べた。

AnthropicはThe Guardianの取材要請に応じなかった。