Anthropicのダリオ・アモデイCEOは、AI業界が社会的な有用性を十分に示せないまま、信頼危機に直面しているとの認識を示した。政府や企業がAIを使って人々に不利益をもたらす仕組みを作っているのではないかという懸念が、不信の根底にあると指摘している。

TechRadarが26日（現地時間）に報じたところによると、アモデイ氏はX（旧Twitter）への投稿で、こうした問題意識を明らかにした。

アモデイ氏は、Anthropicを含むAI企業に向けられる最も的確な批判として、「世界の役に立つ」という大きな約束を、いまだ十分に実現できていない点を挙げた。AIが期待された便益を具体的な成果として示せておらず、そのことが業界全体への信頼低下につながっているとの見方だ。

その上で、広告で「AIががんを治療できる」とうたっても説得力は乏しいとし、「実際に効果を示すには、本当にがんを治療することが必要だ」と述べた。

こうした発言は、AIが利用者の実益よりも、経営効率の改善やコスト削減の文脈で語られてきた流れとも重なる。主要AI企業は初期段階で経営層の投資を促す過程で、人件費削減や業務代替の可能性を強く打ち出してきた。

アモデイ氏自身も過去に、AIによってホワイトカラー職の半数が失われる可能性があると語ったことがある。その後は、AIを「アウトプットを増幅する力」と位置付けるなど、説明の軸足を変えていた。

今後の重点分野としては、生物学と医学への注力に言及した。Anthropicは関連する倫理基準を強調しつつ、両分野でのAI活用を広げていると説明したが、現時点で目に見える成果はなお限られるとの指摘もある。

一方でアモデイ氏は、規制と権限集中の問題にも触れた。規制や監督、テスト、オープンウェイトモデルの扱いの間で、バランスを取る必要があると主張した。

また、「Pacing the Frontier」の動きの一部の主張に共感するとし、最前線の研究機関に一定の統制を導入すれば、技術開発のスピードを調整しながら、ほかの主体が追随する時間を確保できるとの考えを示した。

もっとも、AIに対する不信は技術そのものより、実際の導入先で強まっているという。米国ではAIが監視インフラや治安システムに広く組み込まれている。

Anthropicは、国防総省との関係が途絶えるまで、同省のAIシステム調達事業に参加していた。ただし、大規模監視や完全自律兵器への自社技術の利用には協力を拒み、その結果として契約を失ったという。その後はOpenAIが国防総省と新たな契約を結び、その空白を埋めた。

OpenAIは、自社技術を米国民の監視に使うことは禁じているとして、一線を画している。

民間分野でも監視システムへの反発は広がっている。車両ナンバープレートを追跡するAIカメラを運用するFlockは、各地で強い抵抗に直面している。

このシステムは当初、容疑車両を地域や管轄をまたいで追跡する目的で導入された。ただ、法執行機関の要員が元交際相手や同僚、個人的に関心のある人物の追跡に悪用した事例があったとされる。

交通取り締まりを巡っても同様の論争が続いている。AIベースの交通監視・速度取締カメラでは、ナンバープレートの誤認識や設定ミスにより、別の車両に反則通知が送られた事例が問題化した。通知を受けた側が法廷で無実を証明しなければならない構図だとして、批判も出ている。

これは、米国の刑事事件で本来は政府側が犯罪を立証すべきだという原則を、事実上逆転させかねないとの問題提起でもある。

PalantirのAI技術は、こうした懸念が集まる代表例として挙げられた。Palantirは米軍や法執行機関に幅広くAIを供給しており、米移民・関税執行局（ICE）が不法移民の疑いがある人物の追跡に同社技術を活用しているという。

このほか、ドローン映像の分析、長距離精密打撃、軍事データ分析、作戦計画にも利用されているとした。

今回の発言は、AI産業が単なる性能競争の段階を超え、実際にどのような便益を生み、どのように使われるのかで評価される局面に入っていることを示している。生産性向上や将来性を訴えるだけでは信頼回復は難しく、監視・治安・軍事分野での活用に伴う懸念にどう向き合うかが、今後の主要な争点になりそうだ。