Documentation

Jev API

Jev 用於根據一段狀態資料及一組問題進行結構化判斷。它使用獨立於 OpenAI 及 Anthropic 的 API 路徑,適合需要分類、評分或信心度的場景。

地址及認證

POST https://<LLMPOOL_HOST>/jev/v1/systemone
Authorization: Bearer YOUR_API_KEY
Content-Type: application/json

請在 Board 的 API 密鑰頁面建立 API 密鑰。請求中的 model 必須使用模型廣場顯示的 Jev 模型 ID,不要填寫上游服務的模型名稱。

請求格式

請求必須包含 model、state 及 questions。state 和 questions 必須是非空 JSON 物件;物件內的欄位會直接交由所選 Jev 模型解讀。

以下示例判斷一段問答是否正確:

curl -X POST "https://<LLMPOOL_HOST>/jev/v1/systemone" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "JEV_MODEL_FROM_MODELS_PAGE",
    "state": {
      "user_message": "如何申請退款?",
      "assistant_reply": "請在訂單詳情頁提交退款申請。"
    },
    "questions": {
      "correctness": {
        "type": "choice",
        "instructions": "判斷回答是否正確解決使用者的問題。",
        "criteria": {
          "pass": "回答正確、完整,並直接解決問題。",
          "fail": "回答包含事實錯誤、遺漏重要資訊,或沒有解決問題。"
        }
      }
    }
  }'

questions 可以包含多個判斷維度。每個維度通常包含 type、instructions 及可選的 criteria;具體格式以所選 Jev 模型支援的 Questions API 為準。

回應格式

LLMPool 會保留 Jev 上游回應中的動態 answers,並將回應中的 model 改寫為模型廣場中的客戶端模型 ID。成功回應至少包含 answers 及 usage.input_tokens:

{
  "id": "jev_request_xxx",
  "model": "JEV_MODEL_FROM_MODELS_PAGE",
  "answers": {
    "correctness": {
      "type": "choice",
      "choice": "pass",
      "confidence": 0.98
    }
  },
  "usage": {
    "input_tokens": 128,
    "output_tokens": 0,
    "total_tokens": 128
  }
}

如果上游沒有返回 usage.output_tokens,LLMPool 會按 0 處理。id、provider 和 usage.cost 等欄位會保留為上游中繼資料。Jev 按輸入 Token 計費,實際價格及扣費以帳戶頁面為準。

在模型試驗場使用

登入 Board 後開啟模型試驗場 → Jev,選擇 API 密鑰及模型,填寫使用者訊息、助手回覆和判斷維度,即可查看結構化判斷結果。試驗場使用與本頁相同的請求格式。