Быстрый старт

Миграция с OpenAI

ZvenoAI использует OpenAI-совместимый API. Чтобы переключить проект на российскую инфраструктуру без VPN, достаточно изменить базовый URL и ключ авторизации.

До

Стандартный код, использующий публичный endpoint OpenAI.

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.OPENAI_API_KEY,
});

const response = await client.chat.completions.create({
  model: "gpt-4o",
  messages: [
    { role: "system", content: "You are a helpful assistant." },
    { role: "user", content: "Привет!" },
  ],
});

После

Обновите baseURL и переменную окружения — остальной код продолжит работать.

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.ZVENOAI_API_KEY,
  baseURL: "https://api.zveno.ai/v1",
});

const response = await client.chat.completions.create({
  model: "openai/gpt-4o",
  // Для обеспечения максимальной совместимости с SDK 
  // можно использовать extra_body для передачи доп. полей
  // extra_body: { models: ["openai/gpt-4o", "anthropic/claude-3.5-sonnet"] },
  messages: [
    { role: "system", content: "You are a helpful assistant." },
    { role: "user", content: "Привет!" },
  ],
});

Несколько моделей в запросе

ZvenoAI позволяет передать массив моделей в параметре models. Если первая модель недоступна или перегружена, запрос автоматически обработается следующей моделью из списка — никакой дополнительной настройки не требуется.

const response = await client.chat.completions.create({
  model: "openai/gpt-4o",
  models: ["openai/gpt-4o", "anthropic/claude-3.5-sonnet"],
  messages: [{ role: "user", content: "Привет!" }],
});