API

Moderations

检查文本内容是否触发安全策略，适合在用户输入和模型输出前后做保护。

概述

Moderations 接口接收文本或文本数组，返回是否命中安全类别以及各类别分数。它适合做输入拦截、输出复核、审核队列预筛选。

请求

`POST https://api.example.com/v1/moderations`

Headers

Header必需说明
Authorization✓`Bearer $UOUODUO_API_KEY`
Content-Type✓`application/json`

Body 参数

参数类型必需默认说明
inputstring 或 array<string>✓-待审核文本
modelstring否路由默认moderation 模型 ID

示例

curl https://api.example.com/v1/moderations \
  -H "Authorization: Bearer $UOUODUO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "omni-moderation-latest",
    "input": "用户提交的一段待审核文本"
  }'

响应

字段类型说明
idstring审核请求 ID
modelstring实际模型
resultsarray<object>每条输入的审核结果
results[].flaggedboolean是否命中策略
results[].categoriesobject各类别是否命中
results[].category_scoresobject各类别分数
{
  "id": "modr_abc",
  "model": "omni-moderation-latest",
  "results": [
    {
      "flagged": false,
      "categories": {},
      "category_scores": {}
    }
  ]
}

错误

HTTP说明处理建议
400input 为空或格式错误传字符串或字符串数组
401API key 无效重新创建 key
429审核模型限流队列化或本地降级策略
500上游异常记录 request id 后重试

注意事项

  • Moderations 不是完整合规系统，仍需结合业务规则、黑白名单和人工复核。
  • 批量审核时保留输入索引，方便把结果对应回原始内容。
  • 对用户生成内容，建议在入库前审核；对模型输出，建议在返回用户前复核。