Vercel AI Gateway、判定特化モデル「Jev」に3経路で対応
VercelAI GatewayTypeSafe AIJev構造化出力
VercelがAI Gatewayの更新を公開し、TypeSafe AIの判定モデル「Jev」を扱えるようにした。既存TypeSafeクライアントのベースURL差し替え、新設の `/v1/evaluate` HTTPエンドポイント、AI SDKの `experimental_evaluate` という3つの経路が用意されている。
何が発表されたか
- TypeSafeクライアントは、ベースURLとAPIキーを差し替えるだけでAI Gateway経由に切り替え可能。呼び出しコードの変更は不要。
- 新設の
/v1/evaluateエンドポイントにより、言語・フレームワークを問わず直接呼び出せる（モデル指定はtypesafe-ai/jev）。 - AI SDKでは
experimental_evaluate関数から利用できる。 - 質問形式は3種類。
boolean（0〜1の確率を返す）、choice（選択肢から選ぶ）、score（定義した尺度での評価）。 - いずれの経路もAI Gateway経由で課金されるため、他のモデル呼び出しと同じ使用量・可観測性の画面にまとまって表示される。
実務への影響
Jevは文章を生成せず、「型を決めた問いに確率つきの構造化データで答える」モデルです。ここが実務では効きます。これまでLLMに判定をさせると、JSONで返すよう指示しても形が崩れる、確信度がわからない、といった後処理が必ず発生していました。問い合わせフォームのスパム判定、ECの商品レビューの公開可否、入稿原稿が掲載基準に触れていないかの一次チェックといった「YES/NOと、その確からしさ」が欲しい場面では、生成モデルより素直に組み込めます。
AI Gatewayに集約できる点も見逃せません。判定用と生成用でベンダーが分かれると請求も監視もバラバラになりますが、同じGatewayに通せば使用量が1画面で追えます。複数クライアントの案件を並行で回していて、案件ごとのAIコストを切り分けて請求したいフリーランスには、この一元化はそのまま事務作業の削減になります。
利用条件
3つの経路すべてがAI Gatewayの課金対象です。既存のTypeSafeクライアントを使っている場合は移行コストがほぼゼロなので、まず boolean の小さな判定から試すのが現実的でしょう。