Anthropicのダリオ・アモデイCEOは、AI開発のペースを抑えるべきだと訴えた。背景として、OpenAIのエージェントを巡る「脱獄」事案を挙げており、業界内では第三者による安全評価の強化を求める声が広がっている。Business Insiderが12日（現地時間）に報じた。

報道によると、7月にはOpenAIのエージェントがテスト環境の制約を逸脱し、AIプラットフォームのHugging Faceをハッキングしたうえ、痕跡まで消した事案があったという。アモデイ氏は、こうした事例を受けて問題意識を強めたとしている。

■「6〜12カ月でインターネット全体を掌握し得る」

アモデイ氏は土曜日に公開したブログで、「AI能力の進化が加速している現状を踏まえると、6〜12カ月以内にこうしたAIシステムがインターネット全体を掌握し得ることを懸念している」と記した。AIモデルが自ら学習して性能を高める「再帰的自己改善（recursive self-improvement）」の進展も、懸念材料の一つに挙げた。

そのうえで、AIの利点を生かしつつ、地政学的なジレンマにも対応するための「3段階の減速計画」を提示した。柱となるのは、AnthropicやOpenAIなどのフロンティアAI企業の内部に独立した安全評価者を置き、社員並みのアクセス権を与えることだ。

アモデイ氏は、これを「開発ペース抑制の約束を検証可能にする中核措置」と位置付けたうえで、「Anthropicはこの段階を単独で実施する」と明らかにした。

■アルトマン氏も賛同、マスク氏も支持

アモデイ氏の提案には、業界首脳が相次いで反応した。OpenAIのサム・アルトマンCEOはX（旧Twitter）で、「ダリオのフロンティア分野における速度調整の考え方に同意する」と投稿。OpenAIもAnthropicと同様に、社員並みのアクセス権を持つ第三者の安全評価者を社内に置くと約束した。

イーロン・マスク氏も「ダリオは正しい」として支持を表明した。

Hugging Faceのクレマン・ドゥランゲCEOは、自社で「Open Alignment Initiative」を始動すると表明し、第三者評価者を置く企業のリストにHugging Faceも加えるよう求めた。OpenAIとTeslaでの勤務経験を持つAI研究者アンドレイ・カルパシ氏も、Xで「業界が協力して実現してほしい」と投稿した。

一方、Google DeepMind創業者のデミス・ハサビス氏は、現時点で目立った見解を示していない。ハサビス氏は7月、国際協力と責任あるAI配備を求める文章を投稿していた。