Jevが新たな形態の大規模言語モデル「System One」を発表、別名意思決定モデル

先週、TypeSafe AI が Jev を発表した。彼らが「System One モデル」と呼ぶ新しいモデル分類の最初の例である（Maggie Appleton の言う通り、「decision model」のほうが適切な名前だと思う）。Jev はよくある LLM の変わった変種だ。テキストを入力に取る点は同じだが、出力はテキストではなく、カテゴリや yes/no の問い、スコアに対応する浮動小数点数と、それに対応する信頼度スコアだ。

TypeSafe は Jev をこう説明している。

Jev をフロンティア知能の関数呼び出しだと考えてほしい。非構造化の状態を入力に取り、型付きの確率的な意思決定を出力する。

とにかく速く、そしてとにかく安い。通常の LLM は入力と出力のトークンで課金され、出力のほうがずっと高いのが普通だ。Jev は入力にしか課金しない——出力は無料——最初のモデルの入力価格は 100 万トークンあたり 0.042 ドルで、OpenAI の GPT-5 Nano（100 万トークンあたり 0.05 ドル）よりさらに安い。

Jev を使うと、テキストや半構造化データについて問いを投げかけられる。文字列、文字列の配列、あるいは名前と値のペアの集合を含む「state」オブジェクトを組み立てる——記事や顧客、その他どんな種類のレコードでも記述できる。それをいくつかの問いと一緒に API に送ると、各問いに 1 つずつ回答が返ってくる。

問いは 3 種類ある。

yes/no の問い。Jev はこれを「Noul」問題と呼んでいる——CEO が Hacker News で認めたところによると、Bernoulli の略でベルヌーイ分布に由来する。ある命題を渡すと、モデルがそれを真とみなす信頼度を表す 0 から 1 の浮動小数点数が返る。
選択の問い。モデルは与えられた選択肢の中から 1 つを選ぶ——実際には信頼度スコアと、全選択肢にわたる確率分布が返る。
スコアリングの問い。説明付きの数値段階を渡すと、モデルはその範囲内のどこかの浮動小数点スコアを返す。

Jev の API は、単一のドキュメント（「state」）と、コンテキストウィンドウに収まるだけの任意の数の問いを受け取れる。問いは並列に評価されるので、たくさん送っても 1 つだけ送るのとほぼ同じ時間で済む。

decision model という枠組みは、Jev をどこで使うべきかを考えるのに役立つと思う。分類タスクとして表現できることなら何でも得意だ——スパム検出、タグ提案、優先度付け、ランキングなど。

検索のリランキングにも試している。まず BM25 のような安価なアルゴリズムで候補を 100 件絞り込み、その 100 件を元のクエリに対して Jev にスコアリングさせる。

ブラックボックスが再び主流に

Jev について少し引っかかるのは、ブラックボックスな機械学習システムへの後退をむしろ進めている点だ。

LLM はもともとブラックボックスだ——自分の決定を説明させることはできるが、その説明が役に立つとか正確だとかいう保証はない。

Jev はそれすらできない。テキストをいくらでも食わせても、返ってくるのは浮動小数点数 1 つだけだ。Jev が何かをスパムと判定したとき、いったいどの内容シグナルがそれを引き起こしたのか？

つまりバイアスの問題は最初に持ってこざるを得ない。Jev で求職者をランキングするような真似は誰もしないでほしい——あの浮動小数点数はモデルに潜むさまざまな見えないバイアスを覆い隠しかねないし、実験でそれを分解するのは決して容易ではない。

（サンフランシスコ・ベイエリアの各都市を Jev にスコアリングさせ、「良い都市か？」と尋ねる実験をやってみた——Cupertino が 1 位、East Palo Alto が最下位だった。うん。）

実際に使うとなると、評価と構造化された実験が通常の LLM プロジェクトよりもずっと重要になる。ありがたいことに Jev は十分安いので、実験的なプロンプトを数百、場合によっては数千走らせても数セントで済む。

Jev の変わった使い方

この数日、コミュニティが Jev の潜在的な用途を次々とひねり出していくのを見るのは面白かった。目を引いたものをいくつか挙げる。

Kyle Pena の jevchat は Jev を（ひどい）チャットモデルに仕立て上げた。「各ステップで Jev に 1 つの問いを投げる。ユーザーの質問と、これまでに書かれた返答が与えられたとき、次のトークンは何か？」Hacker News の ericpruitt いわく「Morty が死の水晶に向かって話すやつのデジタル版」。
Fatih Kadir Akın の jev-leftpad は「value の前に targetLength に達するまで何個のスペースが必要か？」というプロンプトで left-pad を実装した。選択クエリを組み合わせ、選択肢は「スペース 0 個」から「スペース 10 個」まで。
Andy Gayton の jev-2048 は Jev に2048 のスライドパズルをプレイさせる。

オープンウェイトでの再現

Jev のようなモデルをオープンウェイトモデルの上で再現しようとするプロジェクトもいくつかある。Kev はその面白い例の 1 つで、Qwen 3.5 をベースに 0.8B、4B、9B の 3 バージョンを作っている。Hacker News の該当スレッドでは、すでに登場した JevBench という「Jev 級の decision model」を比較するベンチマークを誰かが貼っている。

Jev のリリースからまだ 1 週間も経っていないことを思えば、周りの動きはかなりのものだ。