Jevとは何か：話すAIではなく、ソフトウェアの中で決めるAI

チャットAIは文章作りには便利ですが、プログラムが使うには答えの形を確認し、間違った形式ならやり直す必要があります。Jevは、最初からソフトウェア用の判断だけを返せないか、という問いに向き合います。

たとえば問い合わせを『営業・サポート・請求』のどこへ送るかを決めるなら、文章を書かせず三つの候補と確率だけを返します。できることを狭くする代わりに、速さと扱いやすさを得る考えです。

TypeSafe AIは、自社の仕事の流れを使った比較で、Jevが既存AIより大幅に速く安かったと報告しています。Vercel経由で利用できることは確認できますが、性能差は第三者が再現した数字ではありません。

決められた形から外れないことと、判断内容が正しいことは別です。論文、モデル本体、学習データも公開されていないため、現時点ではClosed Researchとして読みます。

Jevが重要だとすれば、AIを何でも話す相手ではなく、小さな判断部品として使う道をはっきり示した点です。実際の価値は、第三者の仕事でも確率が信頼でき、誤りを人へ戻せるかで決まります。

多くの業務では長い文章より、『どの部署へ送るか』『危険度はいくつか』『処理を続けるか』のような小さな判断が必要です。一般的なLLMを使うと、自由文を解析して正しい形か確認する負担が残ります。

従来はLLMへJSON形式を指示し、出力後にプログラムで検証します。柔軟ですが、余計な文章、形式違反、再試行、出力文字数に応じた費用が生じます。

Jevは自由文を捨て、選択肢・点数・真偽という型を先に決めます。入力された状態について複数の質問を出し、それぞれの答えと確率をまとめて受け取ります。

ソフトウェアは確率に閾値を置き、自信が高い判断だけ自動実行し、低いものを人へ回せます。TypeSafe AIは独自の学習法RLCDと並列処理を使うと述べますが、内部構造の詳細は公開していません。

発表者は四つの仕事の流れを用意し、同じ流れをJevとLLMに実行させました。正解ラベルの代わりに、大型外部モデル二つの平均予測へどれだけ近いかを知能の目安にしています。

TypeSafe AIは一部条件で最大193.6倍高速、444.6倍安価と報告しています。ただし同社自身が、これは現実に得られる改善の高い側だと注意しています。

候補を先に定義できる分類、振り分け、採点、検査には合います。文章作成や、何を答えるべきか自体が開かれた問題には向きません。

評価課題を同社チームが作ったこと、参照回答が別のAIであること、公開ベンチマークがないことが大きな制約です。型が正しくても内容は誤りうるため、『幻覚しない』を一般的な正しさと受け取るべきではありません。

この提案は、万能なAIを一つ置くより、判断範囲を狭めた部品を組み合わせる設計へ目を向けさせます。採用判断には、実データで確率の信頼性、誤判定時の損失、人へ戻す割合を測る必要があります。

前提は、業務自動化の多くを文章生成ではなく、候補が定義された反復的判断として表せることです。候補を定義できない仕事では、この利点は小さくなります。

LLMの構造化出力も同じ問題を扱いますが、通常は文字列生成の上に制約を加えます。Jevは初めから文字列を出さない点を違いとして主張します。

共有状態と複数の質問を入力し、Choice・Score・Booleanと確率を返します。アプリケーションは確率を用いて分岐し、自動化と人の確認を切り替えます。

設計の肝は出力空間の事前制約です。型違反を構造上なくせますが、候補集合の漏れや、誤った候補への高い確率は別問題として残ります。

公開資料ではモデル規模、学習データ、計算量、RLCDの目的関数、校正方法を確認できません。サービスは米国西海岸にあり、速度測定も同地域のラップトップから行ったと説明されています。

workflow evalは同じ計算グラフを各モデルへ与え、大型外部モデルの平均予測との差を測ります。人手の正解ではないため、参照モデルの癖を再現するほど高く評価される可能性があります。

最大193.6倍高速、444.6倍安価という値と、70〜500msの応答時間が報告されています。いずれもTypeSafe AIによる測定で、独立した再現結果ではありません。

公開されたアブレーションはなく、RLCD、モデル構造、並列サンプラーの寄与を分離できません。高い選択肢数では二段階処理になり遅くなることや、Doom例では非AIボットの方が強くなりうることは発表者が認めています。

利得は新しい知能そのものより、問題を分類器に近い形へ狭め、出力トークンをなくした効果かもしれません。それでも、用途に合うなら設計上の価値はあります。

論文、重み、訓練データ、標準ベンチマーク、独立校正評価がありません。発表者が評価課題も作っているため、現在の比較だけで一般的優位を結論づけられません。

実業務で確率が校正されるか、分布が変わった時に自信が下がるか、候補の漏れを検知できるかが重要です。第三者のログと正解を用いた長期評価が判断材料になります。

Jevは『AIに何を自由にさせないか』を設計対象に戻します。今後見るべきなのは派手な倍率より、異なる組織の実データで、校正誤差と人への差し戻しを含む総費用が下がるかです。

LLMをソフトウェアの制御分岐に入れると、自由文の解析、schema validation、再試行、遅延が生じます。判断専用モデルならこのオーバーヘッドを除けるかが問いです。

stateとtyped questionsを入力し、各質問の候補確率を並列に返します。出力を制約することで、アプリケーションが直接分岐に使えるインターフェースを作ります。

発表者はworkflow evalで最大193.6倍高速、444.6倍安価と報告します。Vercel経由の提供は確認できますが、性能値はissuer-reportedです。

schema準拠はsemantic correctnessを保証しません。architecture、training data、calibration評価が未公開で、一般化性能は判断できません。

実務上の評価軸は、単発のlatencyより、校正誤差、再確認率、誤判断コストを含むworkflow全体です。独立データでこの合計が下がるなら、限定された出力は有力な設計になります。

一般LLMの柔軟なstring outputは、人との対話には有用でも、機械による反復判断ではparse、validation、retry、出力課金を生みます。用途を構造化判断へ限定すれば、より効率的なモデルを作れるかが中心です。

JSON modeやfunction callingはLLMの生成過程を残したまま形式を制約します。Jevは文字列生成器ではなく、質問ごとの確率評価器として設計した点を差分とします。

入力はstateとquestionsです。質問はChoice、順序付きScore、Booleanとして宣言され、Jevは型付き回答と確率を返します。複数質問を一回の要求で扱います。

発表資料はnew architecture、parallel sampler、RLCDを挙げます。アプリケーションは確率閾値で自動処理とレビューを分岐できます。ただしネットワーク構造や学習目的の形式は確認できません。

四つのworkflowで全モデルに同じ処理を与え、GPT-6 AstraとFable 5.1の平均予測を参照にします。LLM側にはTypeSafe互換のstructured decision wrapperを使います。

TypeSafe AIは最大193.6倍の速度差と444.6倍の費用差、70〜500msの応答時間を報告します。同社は最大値が実運用利得の高い側であることも明記しています。

agent routing、継続・停止、priority scoring、guardrail、データ抽出のように候補が定義できる処理に適します。自由文や未知の候補を発見する課題は対象外です。

課題作成者がモデル提供者と同じで、参照分布も外部モデル依存です。型エラー0%は構造上の値で経験的正確さではありません。公開重み、学習データ、標準benchmark、独立calibration測定が不足します。

Jevの仮説は、モデル性能だけでなく問題のAPI化によって検証すべきです。同じ業務ログでLLM structured output、専用分類器、Jevを比較し、誤判定・棄却・人手確認を含む総費用を見る必要があります。

問題設定は、業務自動化を固定workflow内の確率的decision nodesへ分解できるという仮定に立ちます。質問集合と型が事前定義でき、自由生成が不要な場合に限って比較が成立します。

LLM structured output、function calling、discriminative classifierの中間に位置します。LLMほど開放的でなく、従来分類器より自然言語状態と多様な質問を扱う汎用性を主張します。

stateを共有し、複数のChoice・Score・Boolean questionを渡します。各decisionのprobabilityを返し、外部コードが閾値や組合せ規則を持ちます。

出力空間を有限集合または順序尺度へ固定すればtype errorは構造的に排除できます。しかし候補集合が真の状態を含む完全性、確率の正規化、相関する質問間の整合性は別途評価が必要です。

公表値はTypeSafeのサービスに対する西海岸からの呼び出しを含みます。model size、hardware、batching、training corpus、RLCD objectiveは公開されず、再現条件を構成できません。

workflow evalはground truth classificationではなく、AstraとFableの平均probabilityへの近さを知能指標にします。参照モデルと一致する性質を測るため、事実正解率やbusiness utilityとは一致しない可能性があります。

発表者報告ではJevがcost/latency対intelligenceでPareto frontierを形成し、最大193.6x faster、444.6x cheaperです。Vercelでの提供と入力価格は外部から確認できますが、frontier自体は独立再計算されていません。

RLCD、architecture、samplerの個別寄与を示すablationはありません。高cardinalityでは独立score後にexplicit choiceを行う二段階処理となり、速度低下があると説明されています。

優位の一部は、LLMに課したprobability付きstructured workflowの負担と、Jevの限定タスクへの適合差です。新しい学習法の効果ではなく、task restrictionとserving optimizationが主要因の可能性も残ります。

査読論文、weights、training data、compute、public benchmark、calibration curve、OOD評価がありません。評価者と開発者の分離もないため、現時点の主張は仮説として扱うべきです。

期待校正誤差、Brier score、selective risk、distribution shift時のabstention、候補集合外の検知が必要です。専用classifierや小型LLMとの等価条件比較も評価を変えうる情報です。

技術的に最も興味深い問いは、RLCDが未知分布でもcalibrationを保つかです。APIの使いやすさと低価格は採用を促しますが、研究上の評価は再現可能なprotocolと第三者ログが出てから更新すべきです。

machine-facing workflowで、LLMのstring generationを除去し、typed decisionへ直接最適化するとlatency、cost、schema reliabilityを改善できるかを問います。

unstructured stateとtyped questionsからChoice・Score・Boolean probabilityを返し、制御論理は外部programに保持します。

発表者はworkflow evalで最大193.6x speedupと444.6x cost reductionを報告します。第三者によるreproductionはありません。

schema validityはsemantic accuracyを含みません。training/evaluation artifactが不足し、RLCDとarchitectureの寄与を査定できません。

Jevの主張は、model classの新規性とtask specializationの利得を分離して検証する必要があります。public protocolが出れば、selective predictionとcalibrationの観点から評価できます。

string-generative foundation modelをsoftware decision nodeへ転用する代わりに、typed probability outputへnative optimizationしたmodel classが効率とreliabilityを改善するかを扱います。

RLHF/RLVR LLMにJSON schemaやfunction callingを重ねる方法は、general generation能力とsequential decoding costを保持します。Jevはdecision-only interfaceへcapacityを振り向けると主張します。

stateとquestion mapを入力し、各questionのtyped answer distributionを得ます。APIはChoice、ordered Score、Booleanを公開し、downstream codeがthresholdとcompositionを制御します。

発表資料はnew architecture、parallel sampler、RLCDを構成要素として挙げます。しかしparameterization、loss、reward construction、inference algorithmは非公開で、数理的再構成はできません。

固定workflowに対するpredictionをAstra/Fable ensembleのreference probabilityと比較します。LLMにはSystem One adapterを適用し、同じtyped decision APIへ変換します。

最大193.6x faster、444.6x cheaper、service latency 70–500msがissuer-reportedです。announcement自身が最大値をreal-world gainのhigh endと記述します。

closed-set classification、ordinal scoring、boolean verification、agent controlに適用可能です。open-ended generation、candidate discovery、explanation generationは設計範囲外です。

ground-truth labelを使わずmodel ensembleへ一致させるため、reference biasを継承します。public weights/data、standard benchmark、ECE/Brier、OOD test、ablationがありません。

有力な比較は、同一hardware・同一network条件でJev、small discriminative model、constrained LLMを測り、accuracy-calibration-latency-costのfrontierを再構成することです。それまではproduct hypothesisとして評価するのが妥当です。

task familyを、共有state xとquestions q_iに対する有限output y_iの条件付き分布として表せることを仮定します。utilityは自由生成よりdecision throughputとcalibrationに置かれます。

discriminative model、energy-based scoring、LLM constrained decoding、tool/function callingと関連します。Jevの公開上の差分は汎用自然言語state、複数typed question、専用trainingを一体化したserviceです。

API semanticsではChoice、ordinal Score、Booleanを宣言し、stateを共有して一括評価します。decision probabilityを外部workflowが利用し、action policy自体はcodeに残します。

type-safe outputはsupportを宣言集合へ制限することで得られます。これはinvalid token sequenceを排除しますが、P(y|x)のcalibration、joint consistency、unknown class detectionを保証しません。

発表資料ではarchitecture、parameter count、training tokens、data provenance、RLCD reward、optimizer、compute、serving hardwareが未開示です。latencyはservice locationとclient locationの影響を含みます。

workflow graphを固定し、model outputをAstra/Fable average probabilityへ近づける指標を用います。ground truth utilityではなくteacher agreementであり、teacher biasと相関誤差を含みえます。

issuer reportはJevがintelligence-cost/latency spaceでfrontierを形成し、最大193.6x/444.6xの改善を示すとします。Vercel availabilityは観測できますが、raw resultの独立監査はありません。

architecture、RLCD、parallel sampling、task restrictionの寄与分解はありません。cardinalityが高い場合はindependent scoringとexplicit choiceの二段階になり、claimed single-pass advantageが弱まります。

結果はnew model paradigmより、open-ended generationを不要にしたsystems optimizationを測っている可能性があります。またteacher ensembleへのdistillation-like agreementが知能指標を高める解釈も残ります。

reproducible artifact、peer-reviewed report、training disclosure、public ground-truth benchmark、proper scoring rule、calibration curve、failure taxonomyが不足します。提供者作成のtaskだけではexternal validityを確立できません。

RLCD objectiveはstrictly properか、OODでuncertaintyが増えるか、joint questions間のcoherenceをどう保つか、candidate omissionをどう検知するかが未解決です。independent benchmarkとmodel cardが評価更新の条件です。

Jevの研究的価値は、language modelを万能化する競争から、decision interfaceとuncertainty contractを共同設計する方向へ問題を切り出した点にあります。主張が定着するには、公開されたobjective、calibration protocol、cross-domain reproductionが必要です。