TypeSafeAIが投入した新しいAIモデル「Jev」が、テックコミュニティで注目を集めている。開発者の間では、ChatGPTの開発に携わったディオゴ・アルメイダ氏が立ち上げた企業の新モデルとして関心が高まっている。

Jevの特徴は、文章ではなく判断とその確率を返す点にある。Foundation Capitalのジャヤ・グプタ氏は、Jevを「意思決定機能に特化したモデル」と位置付ける。

複雑な状況や限定的な設問、選択肢の一覧を与えると、Jevは文章ではなく、意思決定とその確率を返すという。

グプタ氏は「ソフトウェアに必要なのは、緊急かどうか、続けるべきか止めるべきか、許可するか遮断するかといった判断だ。にもかかわらず、現在は言語モデルがまず文章を生成し、それを改めて意思決定に落とし込んでいる。AIエージェントが内部で繰り返している処理の多くに、文章生成は必要ない」と説明した。

TypeSafeAIは、Jevを既存の大規模言語モデル（LLM）の限界を補う選択肢として位置付ける。

アルメイダCEOはTypeSafeAI創業前に、OpenAIに4年6カ月在籍し、GPT-4、InstructGPT、ChatGPTの開発に携わった。人間のフィードバックに基づく強化学習（RLHF）の開発にも関与したという。

同氏によると、現在のAIを巡っては「ある仕事では過剰に優秀に見える一方、別の仕事では役に立たない」という相反する評価が並立している。

アルメイダCEOは最近のイベントで、「話題になる成功例の多くは、人がプロセスに関与する業務支援だ。うまくいっていないのは、AIが単独で処理する自動化業務のほうだ。自動化のほうが単純に見えるのに、結果は逆だ」と述べ、顧客対応を代表例に挙げた。

「顧客対応チャットボットの多くは、必要な処理を直接実行できない。文書を探して案内するところで止まる。モデルが誤る可能性があるため、実行権限を与えていないからだ」と説明した。

アルメイダCEOは、コーディングエージェントについても大枠では支援ツールだとみている。その理由として、コードは機械のための言語というより、人間のための記述に近い点を挙げた。

同氏は、「バージョン管理なしにコーディングエージェントを信頼できるか」という問いを、その典型例として示した。

その背景にあるのがRLHFだ。アルメイダCEOによれば、RLHFは人が好む答えを返すようモデルを訓練することに重点を置いている。

同氏は「RLHFで学習したモデルは、可能性が2つあると、より無難に見えるほうを選ぶ。答えはほぼ常にもっともらしく、誤答であってももっともらしく見える」と述べた。

さらに「精度が上がるほどLLMは役に立たなくなる。一方で機械学習は逆で、精度が上がるほど効用が急激に増す」と語った。

同氏は、人の関与を前提とする業務支援と自動化を同時に成立させられるという見方にも否定的だ。2つの目標がモデルを異なる方向へ引っ張ることで、性能にばらつきのある知能になるという。

「信頼できる自動化には、『9がいくつも並ぶ』レベルの精度が必要だ」と強調した。

TypeSafeAIは、業務支援ではなく自動化に集中する方針を示しており、人が関与する支援サービスを構築する企業にはJevが適さない可能性があるとしている。

アルメイダCEOは企業に対し、「意思決定にリスクが伴う業務をAIに任せるべきではない」と指摘した。そのうえで、「Opencloを新規ユーザーのオンボーディングに使うべきかを考える前に、リスク要因があるか、被害を防ぐ安全装置があるかを先に確認すべきだ」と述べた。