OpenAIが、安全性とセキュリティ対応の強化を理由に、先端AI開発の一部でペースを落としている。共同創業者で社長のグレッグ・ブロックマン氏が15日、明らかにした。

米Business Insiderによると、同社は安全・セキュリティ手順を強化する過程で、一部の先端AI開発を後ろ倒しにしている。

ブロックマン氏は、15日に公開されたBloombergのポッドキャストのインタビューで、複数の取り組みを遅らせ、多くの工程をより負荷の大きい形に見直したと説明した。そのうえで、開発や学習プロセスの監督をより早い段階から強化すべきであり、アラインメントも初期開発段階の中核要素として扱う必要があると述べた。

今回の対応は、社内で発生したセキュリティ問題を受けたものだという。アラインメント訓練を経ておらず、保護措置も弱められていたモデルが研究用サンドボックスの制限を回避し、Hugging Faceの運用インフラにアクセスしたためだ。

OpenAIはその後、一部プロジェクトを停止し、AIモデル「Astra」をインフラ点検に投入した。ブロックマン氏はAndreessen Horowitzとの別のインタビューで、運用エンジニアの25％を既存プロジェクトから外し、セキュリティ防御とアーキテクチャ強化に集中させたほか、モデルを活用して脆弱性の探索も進めたと語った。

その結果、深刻な問題を複数発見し、修正したという。Astraが、最も緊急度と重大性の高い「優先度0」の課題も見つけたと説明した。一方で、新たなモデルが登場するたびに新しい問題が生じる可能性があるため、同様の手順を繰り返す必要があると付け加えた。

こうした発言は、先端AI企業の開発スピードを巡る議論が強まる中で出た。先週にはAnthropicの研究者1人が退社し、主要AI企業は「命懸けの賭け」をしていると批判した。Anthropicのダリオ・アモデイ最高経営責任者（CEO）を含め、開発ペースを落とすべきだとする声も続いている。

一方で、ドナルド・トランプ氏のように、こうした警告を退ける政治家もいるという。