Генерация текста

Для текста доступны два протокола OpenAI. Используйте модели с kind: text из GET /v1/models.

Chat Completions

POST /v1/chat/completions

Каждое поле протокола передаётся модели как есть — tools, tool_choice, response_format, logprobs, seed, stop и остальные. Учитывает ли модель поле, решает сама модель.

string

обязательно

id модели, например deepseek/deepseek-v4-flash.

object[]

обязательно

История диалога. role: system, developer, user, assistant или tool. content: текст или массив частей (text, image_url, …).

integer

Лимит выходных токенов, включая рассуждения.

boolean

по умолчанию:"false"

number

От 0 до 2.

string

minimal, low, medium или high.

object[]

string | object

none, auto, required или выбор конкретного инструмента.

Ответ — стандартный объект chat.completion с choices (message, finish_reason: stop, length, tool_calls, content_filter) и usage. completion_tokens включает скрытые токены рассуждений.

Вызов инструментов

curl https://b2b.api.ascn.ai/api/ai-gateway/v1/chat/completions \
  -H "X-API-KEY: $ASCN_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-4o-mini",
    "messages": [{"role": "user", "content": "What is the weather in Berlin?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Current weather for a city.",
        "parameters": {"type": "object", "properties": {"city": {"type": "string"}}, "required": ["city"]}
      }
    }]
  }'

Responses

POST /v1/responses

Для кода, написанного под client.responses.create. Обязательные поля — model и input (строка или массив сообщений); также instructions, max_output_tokens, temperature, tools, stream.

Ответы не сохраняются. previous_response_id и получение ответа позже не поддерживаются — передавайте всю историю в input.

response = client.responses.create(
    model="openai/gpt-4o-mini",
    input="Summarise the CAP theorem in three bullets.",
    max_output_tokens=400,
)
print(response.output_text)

Потоковый вывод

Передайте "stream": true, чтобы получать ответ через Server-Sent Events. Поток заканчивается data: [DONE].

Chat Completions — stream_options.include_usage включён всегда, последний чанк содержит usage.
Responses — события response.output_text.delta, …, response.completed; usage — в response.completed.

Используйте поток для длинных ответов. Длинный ответ без потока может быть отклонён с streaming_required.

stream = client.chat.completions.create(
    model="anthropic/claude-haiku-4.5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Explain mixture-of-experts in one paragraph."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")

Уже начавшийся поток не переключается на другой бэкенд. При сбое посреди ответа поток завершится чанком data: {"error": {…}} и затем data: [DONE] — считайте полученное неполным ответом.

Начало работы

Гайды

API

Генерация текста

Chat Completions

Responses

Потоковый вывод

​Chat Completions

​Responses

​Потоковый вывод

Chat Completions

Responses

Потоковый вывод