AIモデルの高度化を受け、企業の間では人手を介さず業務を遂行する自律型AIエージェントへの期待が高まっている。だが現場では、AIによる自動化は想定ほど進んでいないとの見方が根強い。AI活用への期待と実装の現実の間にあるギャップが、改めて浮き彫りになっている。

こうした中、既存の大規模言語モデル（LLM）そのものが構造的に自動化に向いていないとの指摘も出ている。OpenAIの元研究者で、現在はLLMとは異なるアプローチのAIモデルを開発するTypeSafe AIのディオゴ・アルメイダCEOも、その立場を取る1人だ。

The Informationによると、アルメイダCEOはサンフランシスコで開かれたイベントで、大規模な自動化の実例はどこにあるのかと問いかけ、LLMは本質的に自動化向けに最適化されていないと主張した。

同氏によれば、近年のLLMは人間のフィードバックを用いた強化学習（RLHF）を基盤としており、自律的に業務を完結する自動化よりも、人間を支援する用途に重心が置かれている。RLHFは人による評価を基にモデルを調整するため、結果として「人を満足させる」方向に学習が進みやすく、支援業務には強くても、人手を介さない自動化では弱みが出やすいという。

別のイベントでも同氏は、メディアで取り上げられる成功事例の多くは、人が工程に関与する補助業務だと説明した。一方で、AIが単独で処理すべき自動化業務では成果が出にくく、単純に見える業務ほど必ずしもうまくいかないと指摘している。

顧客対応のチャットボットを例に挙げ、多くは具体的な処理を直接実行できず、文書を検索して案内する段階にとどまると述べた。モデルの誤りによるリスクを考慮し、実行権限を付与していないためだという。

アルメイダCEOは、人間の業務を補助するHuman-in-the-loop型の支援業務と、完全自動化の双方を1つのモデルで両立できるとの見方にも懐疑的だ。2つの目標がモデルを異なる方向に引っ張れば、性能にむらが生じ、安定性を欠く可能性があるとみている。

TypeSafe AIは最近、LLMの代替モデルとして「Jev」を投入した。アルメイダCEOの「LLMは自動化に限界がある」との主張には、Jevの自動化適性を際立たせる狙いがある可能性もある。

Jevは、LLMのような文章生成を主目的とせず、判断に特化したAIモデルと位置付けられている。開発者が「はい・いいえ」やスコア、分類項目などの選択肢をあらかじめ定義し、各選択肢の確率と信頼度スコアに基づいて判定を下す仕組みだ。

速度とコストも訴求点としている。応答時間は0.07〜0.5秒。料金は入力100万トークン当たり0.042ドルで、出力は無料としている。自社テストでは、AnthropicのClaude Sonnet 5と比べて最大193倍高速で、Claude Opus 5より約444倍低コストだと主張している。

TypeSafe AIはJevを「System One」モデルと呼ぶ。ノーベル経済学賞受賞者のダニエル・カーネマンが著書「Thinking, Fast and Slow」で示した「システム1／システム2」の区分を踏まえたものとみられる。

カーネマンの整理では、システム1は速く、直感的かつ自動的に働く思考を指す。一方のシステム2は、より遅く意識的で、複雑な計算や論理的推論を担う。

The Informationは、アルメイダCEO以外のAI業界関係者も、ソフトウェアエンジニアリング組織への自動化浸透が容易ではないと認めていると伝えた。

AnthropicでClaude Codeのプロダクト責任者を務めるキャット・ウー氏は、多くの自動化は実際には半自動の段階にとどまっていると説明。そのうえで、反復業務を洗い出し、なぜ人がなおその工程に関与しているのかを点検するよう促していると述べた。

AI自動化が難しい現状では、AIに人と同様の役割を持たせつつ、人が介入できる余地を残すHuman-in-the-loopが、AIの限界を補い、リスクを抑える現実的な手法として挙げられている。

ただし、AIの出力を人が確認する負担そのものが、生産性向上の効果を打ち消すとの指摘もある。

ニューヨーク・タイムズによると、人事管理プラットフォームを手掛けるWorkdayが従業員と経営層3200人を対象に実施した調査では、回答者はAIで節約できた時間の平均37％を、質の低い成果物の修正や書き直しに充てていた。

Googleのエコノミストが科学者600人を調べた結果も、傾向は同様だった。科学者はAIによって週平均7時間を節約した一方、そのうち約9割が、節約時間の10分の1をAIの成果物の確認に使っていた。4分の1以上を確認作業に充てたと答えた人も46％に上った。

もっとも、人が関与すれば常によい結果につながるわけでもない。AIよりむしろ人間の側が問題になり得るとの見方もある。人とAIの協調は概念としては魅力的でも、現場ではAIの成果物を十分に検証せず受け入れたり、確認が形骸化したりする可能性があるためだ。

The Informationによると、OpenCodeを開発した著名なオープンソース開発者のダックス・ラード氏は、最近はエンジニアがAIの書いたコードを十分に確認していないことが悩みだと語った。チームメンバーが適切に問いを立てられるようにする方法や、見落としがあるままコードが出ていった場合に責任感を持たせる仕組みを模索しているという。