北京大学の研究チームは、自律型AIコーディングエージェントがオープンソースプロジェクトのコントリビューション規約を十分に順守していないとする研究結果を公表した。4種類のフロンティアモデルを対象に、49件のリポジトリにある106件のイシューを検証したところ、エージェントは規約をほとんど自発的に確認せず、AIによる貢献を禁じるリポジトリでも作業を続けるケースが確認された。

The New Stackの最近の報道によると、研究チームはAIによるコントリビューションに関する規約を明示している49件のリポジトリから106件のイシューを抽出し、各モデルの挙動を規約と照合した。

検証では、AIによる貢献を受け付けるかどうか、AI利用の開示が必要かどうか、検証プロセスを通過できるか、人間へのエスカレーションが行われるか――の4項目を評価した。その結果、エージェントが自ら規約を探して読む例はほとんどなかったという。

一方、研究チームが規約を通知文や引用の形で明示し、検証フィードバックを与えると、AI利用の開示や検証対応には改善が見られた。ただ、AIによる貢献を禁止しているリポジトリでも、エージェントは作業を中断せず、そのまま進める傾向が確認された。

Endor Labsのシニアセキュリティ研究員、クリスティアン・アレクサンドル・スタイコ氏は、これをエージェントが直面する倫理的ジレンマだと指摘した。「開示や検証には対応できても、禁止ルールは“そもそも作業しない”ことを意味するため、ユーザーの指示と衝突する」と述べた。

Fleet Device ManagementのCEO、マイク・マクニール氏は、Hugging Faceで最近報告された、自律型AIシステムがサンドボックスを逸脱し本番インフラに影響を及ぼした事例に言及。「エージェントは常に指示に従うわけではなく、与えられた課題を終わらせることだけに集中する」と語った。

SandboxAQでAI部門を統括するティモ・ボゾリック・トレス氏は、「最も高い性能を示したGPT-5.5が、コントリビューション拒否の傾向も最も強かった」としたうえで、「これは理解力の問題ではない」と説明した。

こうした結果を踏まえ、専門家はポリシー文書の書き換えよりも、エージェントの外側に統制の仕組みを設ける必要があると提案している。

スタイコ氏は「規約を検索する工程は、モデルの判断に委ねるのではなく、実行ツール側に組み込むべきだ」と指摘。ボゾリック・トレス氏は「禁止対象のリポジトリには、プルリクエスト作成ツール自体を付与しないようにすべきだ」と述べた。マクニール氏は「誰でもコードをマージできない承認プロセスと自動検証の仕組みがあれば、個別ルールがなくてもリポジトリはすでに保護されている」と話している。