API
Moderations
Эндпоинт POST /v1/moderations анализирует текст и изображения на предмет нарушений. Совместим с openai.moderations.create().
Примеры запросов
curl -X POST "https://api.zveno.ai/v1/moderations" \
-H "Authorization: Bearer $ZVENOAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/omni-moderation-latest",
"input": "Проверяемый текст"
}'Параметры
| Поле | Тип | Описание |
|---|---|---|
| model | string | Slug модели модерации (например, openai/omni-moderation-latest). Без префикса провайдера используется OpenAI по умолчанию. |
| input | string | string[] | object[] | Контент для модерации. Строка, массив строк, или массив мультимодальных объектов (text/image_url). |
Мультимодальный ввод
Модель omni-moderation-latest поддерживает проверку изображений вместе с текстом. Передайте массив объектов с типами text и image_url.
curl -X POST "https://api.zveno.ai/v1/moderations" \
-H "Authorization: Bearer $ZVENOAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/omni-moderation-latest",
"input": [
{ "type": "text", "text": "Подпись к изображению" },
{ "type": "image_url", "image_url": { "url": "https://example.com/image.jpg" } }
]
}'Ответ
Каждый элемент results содержит flagged (boolean), карту categories и числовые category_scores.
{
"id": "modr-abc123",
"model": "omni-moderation-latest",
"results": [
{
"flagged": false,
"categories": {
"harassment": false,
"harassment/threatening": false,
"hate": false,
"hate/threatening": false,
"illicit": false,
"illicit/violent": false,
"self-harm": false,
"self-harm/instructions": false,
"self-harm/intent": false,
"sexual": false,
"sexual/minors": false,
"violence": false,
"violence/graphic": false
},
"category_scores": {
"harassment": 0.00012,
"hate": 0.00003,
"sexual": 0.00001,
"violence": 0.00005
}
}
]
}Категории
| Категория | Описание |
|---|---|
| harassment | Домогательства, оскорбления |
| hate | Язык ненависти |
| illicit | Незаконная деятельность |
| self-harm | Самоповреждение |
| sexual | Сексуальный контент |
| violence | Насилие |
Подкатегории (harassment/threatening, sexual/minors и др.) детализируют основные категории.