Jev API
Jev 用於根據一段狀態資料及一組問題進行結構化判斷。它使用獨立於 OpenAI 及 Anthropic 的 API 路徑,適合需要分類、評分或信心度的場景。
地址及認證
POST https://<LLMPOOL_HOST>/jev/v1/systemone
Authorization: Bearer YOUR_API_KEY
Content-Type: application/json
請在 Board 的 API 密鑰頁面建立 API 密鑰。請求中的 model 必須使用模型廣場顯示的 Jev 模型 ID,不要填寫上游服務的模型名稱。
請求格式
請求必須包含 model、state 及 questions。state 和 questions 必須是非空 JSON 物件;物件內的欄位會直接交由所選 Jev 模型解讀。
以下示例判斷一段問答是否正確:
curl -X POST "https://<LLMPOOL_HOST>/jev/v1/systemone" \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "JEV_MODEL_FROM_MODELS_PAGE",
"state": {
"user_message": "如何申請退款?",
"assistant_reply": "請在訂單詳情頁提交退款申請。"
},
"questions": {
"correctness": {
"type": "choice",
"instructions": "判斷回答是否正確解決使用者的問題。",
"criteria": {
"pass": "回答正確、完整,並直接解決問題。",
"fail": "回答包含事實錯誤、遺漏重要資訊,或沒有解決問題。"
}
}
}
}'
questions 可以包含多個判斷維度。每個維度通常包含 type、instructions 及可選的 criteria;具體格式以所選 Jev 模型支援的 Questions API 為準。
回應格式
LLMPool 會保留 Jev 上游回應中的動態 answers,並將回應中的 model 改寫為模型廣場中的客戶端模型 ID。成功回應至少包含 answers 及 usage.input_tokens:
{
"id": "jev_request_xxx",
"model": "JEV_MODEL_FROM_MODELS_PAGE",
"answers": {
"correctness": {
"type": "choice",
"choice": "pass",
"confidence": 0.98
}
},
"usage": {
"input_tokens": 128,
"output_tokens": 0,
"total_tokens": 128
}
}
如果上游沒有返回 usage.output_tokens,LLMPool 會按 0 處理。id、provider 和 usage.cost 等欄位會保留為上游中繼資料。Jev 按輸入 Token 計費,實際價格及扣費以帳戶頁面為準。
在模型試驗場使用
登入 Board 後開啟模型試驗場 → Jev,選擇 API 密鑰及模型,填寫使用者訊息、助手回覆和判斷維度,即可查看結構化判斷結果。試驗場使用與本頁相同的請求格式。