Anthropicが、主要AI研究機関に対し、人工知能（AI）開発のペースを落とすよう訴えている。米紙ウォール・ストリート・ジャーナルが4日（現地時間）に報じた。
Anthropicはブログで、AIシステムが人の介在なしに自らを改良する「再帰的自己改善（recursive self-improvement）」の段階が近づいていると警告した。そのうえで、開発速度を抑えることは「世界全体の利益になる」との考えを示した。
この投稿は、Anthropicの社内研究機関の責任者を務めるマリナ・ファバロ氏と、共同創業者のジャック・クラーク氏が執筆した。
両氏は、再帰的自己改善は現時点で実現しておらず、必然でもないとしながらも、「多くの組織が備えを整える前に到来する可能性がある」と指摘した。あわせて、AI開発の抑制に向けた国際協定と、その履行を検証する仕組みの整備を提案した。
また、核兵器管理の枠組みにもなぞらえつつ、「AIの学習はミサイル基地と違って外部から実態を検証しにくく、合意違反を見つけ出すのははるかに難しい」と説明した。
クラーク氏は先月ロンドンで行った講演でも、再帰的自己改善について「2年以内、あるいはそれより早く起こる可能性がある」と述べていた。Anthropicは今後数カ月以内に、政策立案者や研究者らとこの問題を巡る議論を進める方針だ。
一方で、AnthropicによるAI安全性を巡る警告については、競合けん制やマーケティングの側面があるとの見方も出ている。ベンチャー投資家のデービッド・サックス氏は、Anthropicの経営陣が自社に有利な規制が整うよう政府や政策立案者に働きかける「レギュラトリー・キャプチャー（規制の虜）」を進めていると皮肉った。
著者について
Chi-gyu Hwang
delight@d-today.co.kr