Moderations

檢查文本（或多模態內容）是否違反使用政策，採用通用 Moderations 協議格式。

POST https://wrouter.ai/v1/moderations

請求體

引數	型別	必填	說明
input	string | array	✓	單條文本，或多條文本/多模態物件的陣列
model	string		如 omni-moderation-latest、text-moderation-stable；預設時使用閘道器預設

響應

{
  "id": "modr-xxx",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": true,
      "categories": {
        "hate": false,
        "harassment": true,
        "self-harm": false,
        "sexual": false,
        "violence": false,
        "...": false
      },
      "category_scores": {
        "harassment": 0.87,
        "...": 0.01
      }
    }
  ]
}

results 與 input 陣列一一對應。

示例

curl https://wrouter.ai/v1/moderations \
  -H "Authorization: Bearer $WROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"input": "這是一條待稽核文本"}'

from openai import OpenAI
client = OpenAI(api_key="sk-...", base_url="https://wrouter.ai/v1")
r = client.moderations.create(input="這是一條待稽核文本")
if r.results[0].flagged:
    print("違反政策:", r.results[0].categories)

應用場景

• 使用者輸入預審：在呼叫 Chat Completions 前過濾違規 prompt
• 模型輸出後審：流式輸出收完後做一次稽核
• 批次內容合規：UGC 平臺用作內容稽核輔助工具

該介面僅返回風險分類與得分，不會自動拒絕呼叫。是否攔截由你自己決定。