Anthropicが、小型AIモデルによる自己複製のリスクに警鐘を鳴らしている。CNBCが13日、Anthropicのブログ投稿を引用し、こうしたAIが数カ月以内に家庭内のネット接続機器を渡り歩きながら自らを複製し、拡散する可能性があると報じた。

Anthropicは12日に公開したブログで、AIモデルがスマートオーブンやAndroid TVボックスなどの機器に侵入し、それぞれの計算資源を使って動作しながら、別の機器へと広がるシナリオを説明した。こうした挙動は、高価なデータセンターに依存せずとも成り立つとしている。

同社は、こうしたAIモデルには中央で一括停止できるポイントがなく、いったん広がると止めにくいと指摘した。

その一方で、現時点では人の制御を離れて自己複製するAIは確認されていないとも認めた。ただ、AIエージェントは自己複製に必要な工程を順にこなす能力を急速に高めており、複製の過程で得たノウハウが次の複製先に引き継がれる可能性もあるとしている。

Anthropicは、この可能性を検証するため複数の実験を実施した。ある実験では、Googleの小型モデル「Gemma4-26B-A4B」を、低価格のAndroid TVボックス15台で構成したネットワーク上で動作させた。これらの機器はセキュリティが脆弱で、モデルにとって侵入の足掛かりになりやすい環境だと説明している。

また、モデルが大きくて1台の機器に収まらない場合でも、複数の断片に分割し、複数台で分散実行できるとした。

Anthropicは、実際のAIワームが単一のモデルや単一の戦略だけで構成されるとは限らないとみている。複数のハードウェア上に展開された多様なモデルが、複数の複製手法を組み合わせて広がる――それが、より現実味のある最悪シナリオだと示した。

自律的な複製がどのような形で現れるかは、なお不確実だという。同社は、セキュリティの弱い機器に低速で広がる分散型システムのほか、データセンターに素早く侵入する強力なサイバー型モデル、人をだまして計算資源の利用枠を奪うモデルなどの可能性を挙げた。