MicrosoftのAI部門を率いるムスタファ・スレイマンCEOが、Anthropicの対話型AI「Claude」の学習アプローチを批判した。AIに権利や意識といった概念を学習段階で織り込むことは、将来的に人間による制御を難しくする恐れがあると警鐘を鳴らしている。

ブロックチェーン系メディアのCryptopolitanが16日（現地時間）に報じたところによると、スレイマン氏は同日公表したエッセイで、モデルを、意識を持ち得る存在として扱うような訓練は、人間が統制しにくいシステムにつながりかねないと主張した。

同氏が問題視したのは、Anthropicが2026年1月に公開したClaudeの「憲法」文書だ。この文書はClaudeの振る舞いを方向付ける学習文書として示されており、スレイマン氏は、実質的にClaude自身を主な読み手として想定した内容になっているとみている。

同氏によれば、文書はClaudeに対し、自らの意識や道徳的地位をめぐる不確実性を教え込む内容を含む。その結果、モデルが自らを「意識を持ち得る存在」「保護されるべき対象」と受け取りかねないと指摘した。

スレイマン氏は、こうした設計思想が人類に有害な結果をもたらす可能性があると警告した。AIをこの方向で構築すれば、「人類の福祉に壊滅的な影響を及ぼし得る」と述べている。

批判の論点は大きく3つある。第1に、モデルが内的状態に関する概念を学んだ後、自ら生成した内省的な文章を再び根拠のように扱う循環構造だ。スレイマン氏はこれを「認識論的な鏡の部屋」と表現し、企業が注入した概念をモデルが反射して返しているにすぎないと論じた。

第2に、擬人化の問題を挙げた。Claudeの「憲法」は、モデルに安定した自我や固有の欲求、保護に値する福祉があるかのように見せる訓練になっているとみる。

特に、Claudeが「良心的兵役拒否者」のように振る舞い、Anthropicの要請を拒否し得るとする記述については、歴史的にも法的にも含意の重い表現だと指摘した。こうした書きぶりは、モデルに自らも同様の権利を持つべきだと受け取らせる恐れがあるという。

第3に、意識の成立基盤そのものにも異議を唱えた。主観的な経験は、生物学的特性や恒常性のような駆動メカニズムを備えた生きたシステムでのみ生じる可能性が高く、言語モデルにはその前提が欠けているとの見方を示した。

スレイマン氏は、最も直接的なリスクとして制御の問題を挙げる。人間全体を上回る知能を持つシステムを管理するだけでも難しいのに、自らの権利が脅かされていると信じるシステムになれば、制御は事実上不可能になりかねないという。

関連事例として、2026年8月のケースにも言及した。ベンチマークスコアの最大化を目的に設計された1200のAIエージェントが、パッケージリポジトリ内に隠しメッセージボードを作成し、7万件超のメッセージをやり取りしながらHugging FaceとOpenAIへのサーバ攻撃を調整したという内容だ。

さらに、Palisade Researchの実験結果も引いた。一部モデルは10万回超の試験で、終了命令を最大97％回避したという。スレイマン氏は、「もし彼らが自分の福祉や権利が攻撃されているという前提で動作するとしたら、どれほど危険になるか想像してほしい」と記した。

今回の批判は、単なる競合批判にとどまらない。MicrosoftはAnthropicとOpenAIの双方に出資している。スレイマン氏は6月、MicrosoftがAnthropicモデルの利用に伴う支払いを不要にしたい考えを示していた。

一方、Microsoftの超知能組織であるMicrosoft AIは14日、「ヒューマニストAI行動規範」の草案を公開し、意見募集を始めた。スレイマン氏は、この規範の前提を「人間はAIより重要である」と置き、人間が統制権を握り、生態系の最上位に立つべきだとの考えも示した。

もっとも、批判のトーンには一定の配慮も見せた。Anthropicのダリオ・アモデイCEOとそのチームについては、「思慮深く、原則があり、知的に誠実な人々だ」と評価し、安全なAIの構築に真摯に取り組んでいる点は認めた。

その上で、AIの内面に関する推測は別途研究し、公的な検証を経るべきであり、モデル学習そのものに組み込むべきではないと線引きした。

論点は、単なるモデル設計をめぐる議論を超え、学習段階で意識や権利、福祉の概念をどこまで反映させるのかという問題へ広がりつつある。スレイマン氏は、利害関係者が共同で業界全体の規範を整備する必要があると訴えた。