ブラウザで動くAI判断モデルOpenJevとは？公開仕様と注意点

Webブラウザ上でローカルモデルを動かし、AIに選択肢の判断を行わせる実験的プロジェクト『OpenJev』が公開されています。外部サーバーへデータを送信せず、端末内のGPUだけで推論を行う設計が特徴です。公開されているデモページの情報から、その仕組みと仕様、利用時の注意点を整理します。

OpenJevは外部サーバーを介さずにブラウザ内で完結する？

OpenJevは、ユーザーのWebブラウザ上だけで動作するよう設計された意思決定向けのAIモデルです。バックエンドのAPIサーバーと通信して推論結果を受け取る一般的なAIサービスとは異なり、計算処理はすべて閲覧中の端末側で実行されます。

モデルの重みデータは初回アクセス時にHugging Faceからダウンロードされ、ブラウザのキャッシュ内に保持されます。入力された状況、質問、選択肢といったデータはページ外へ送信されない構造となっており、外部通信に伴うAPI利用料金は発生しません。公開されているOpenJevの公式デモページやGitHubリポジトリ（https://github.com/TheoLeeCJ/openjev）から、順番待ちの登録なしに誰でも試せる状態で公開されています。

選択肢の確率を直接読む方式とJSON生成の2系統を比較できる

OpenJevのデモでは、同じ入力内容（状態・質問・選択肢）を1つのローカルモデルに渡し、異なる2つの手法で意思決定を行わせてその挙動を比較する仕組みになっています。

1つ目の手法は「Direct readout（直接読み出し）」です。この方式では、テキストを1文字ずつ生成する通常のデコード処理を行いません。モデルが出力する選択肢の未正規化スコアである「ロジット（logits）」を直接読み取り、提示された選択肢の範囲内だけで正規化計算（ソフトマックス）を行って確率を求めます。トークン生成を挟まないため、1回の読み出しで確率値が得られます。

2つ目の手法は「Generation（生成）」です。こちらはモデル自身に選択肢の確率分布を推定させ、JSON形式のテキスト（キーと確率値のペア）として1トークンずつ順次書き出させます。画面上ではトークンが1つずつ到着する様子が可視化されます。

デモ画面上では、これら2つの方式が同じモデルを使って順番に実行されます。Direct readoutが先に走り、その後にGenerationが実行される順次処理となっているため、端末内の単一GPU上で計算資源が奪い合われることはありません。また、セットアップ時間、プロンプト準備、初回トークン生成、完了までの経過時間は、ブラウザの高精度タイマーであるperformance.now()関数を用いてミリ秒単位で実測表示されます。

端末負荷を左右する3つのモデルサイズと公開スコア

OpenJevのデモ環境では、端末のスペックや目的に応じて3種類のモデルサイズが用意されています。デスクトップ環境ではMiniCPM5 2Bが標準として選択されます。

公開されているベンチマーク情報によると、各モデルのサイズと評価スコア（Authored、Perturbed、TypeSafeの各テスト）は次のように示されています。

最も軽量なQwen3 0.6Bはダウンロード容量が約639MBに抑えられており、スマートフォンなどの低スペック端末での動作を想定したサイズです。ただし、サイズを抑えたトレードオフとしてベンチマークスコアは全体的に低めの数値となっています。

標準設定のMiniCPM5 2Bは約1.56GBの容量で、バランス型の位置づけです。より大型のQwen3.5 4Bは約3.01GBとなり、TypeSafeスコアで84.5%を記録していますが、動作には相応のメモリ容量が必要とされています。なお、公開されているホスト版JevのTypeSafeスコアは88.3%となっており、ブラウザ版のローカルモデル群がホスト版Jevに匹敵する性能を持つとは主張されていません。

初回ダウンロードとWebGPU環境はどう影響する？

デモ画面上ではブラウザのWebGPU認識状況が表示されます。

また、ブラウザ版で使われている重みは、GGUF形式に変換されたビルドをwllamaと呼ばれるランタイム経由で実行しています。元のフル精度（BF16）から軽量化のために量子化（Quantization）が施されており、この量子化によってモデルの推論品質や計算速度に変化が生じる特性があります。

導入時の挙動として、初回アクセス時にはモデルデータのダウンロードとキャッシュ保存、モデルの準備、さらに両方式の事前コンパイルパス（ウォームアップ）が実行されます。そのため、選択したモデルのファイルサイズやインターネット回線速度、GPU性能によっては、最初の実行準備が完了するまでに数分程度の待機時間が発生します。

ソフトマックスによる相対確率であり絶対的な確信度ではない

OpenJevが提示する確率の数値を見るにあたっては、その計算仕様を把握しておく必要があります。公開情報では「これらの数値が意味するもの、および意味しないもの」として明確な注記がなされています。

Direct readout方式で算出される確率は、画面に提示された選択肢のトークン間だけで正規化されたソフトマックス値です。これは「提示された選択肢の中での相対的な重み」を示しているにすぎず、統計的に校正された絶対的な確信度（calibrated confidence）ではありません。また、モデルが本来最も好ましいと判断する可能性のある、提示されていない回答候補は計算に含まれていません。

そのため、提示されたパーセンテージが高く表示された場合でも、AIがその選択肢に対して確固たる正答の確信を持っているわけではない点に注意が必要です。

ブラウザ上で実際に動作を確認したい場合は、まず利用端末のブラウザでWebGPUが有効になっているかを確認し、数百MBから数GBのストレージ空き容量を確保した上で、軽量なモデルから段階的に読み込み時間や実行速度を確かめる形になります。