К содержимому
inclusionAI·Новая·вышла

Ling 3.0 Tiny

Маленькая открытая модель inclusionAI с переключаемым рассуждением: для отзывчивых агентов, следования инструкциям и диалогов.

Вход ₽/1М1 ₽
Выход ₽/1М4 ₽
Контекст262 тыс.
Скорость59ток/с

Подключение

Адресhttps://api.polyapi.ru/v1
Ключ
Модельinclusionai/ling-3.0-tiny

Пример запроса

1from openai import OpenAI
2
3client = OpenAI(base_url="https://api.polyapi.ru/v1", api_key="<ключ polyapi>")
4r = client.chat.completions.create(
5 model="inclusionai/ling-3.0-tiny",
6 messages=[
7 {
8 "role": "user",
9 "content": "Распредели обращения в поддержку по категориям: оплата, доставка, возврат, аккаунт, другое. Верни JSON-массив объектов {id, category}.\n\n1. Деньги списали дважды за один заказ\n2. Не приходит код для входа\n3. Курьер не позвонил и не приехал\n4. Хочу вернуть куртку, не подошёл размер\n5. Есть ли у вас самовывоз в Казани?\n6. Карта не проходит, пишет «отказ банка»"
10 }
11 ],
12 temperature=0.7,
13 max_tokens=4096,
14)
15print(r.choices[0].message.content)

Цены

За 1М токеновЦена
Вход1 ₽
Выход4 ₽
Чтение из кэша0,30 ₽

Ошибка до начала ответа не списывается. Если ответ оборвался у провайдера или по таймауту, списываем вход и дошедшую часть. Если соединение закрыли вы, модель допишет ответ, и он спишется целиком (подробнее). Оплата картой или по счёту.

Возможности

Рассуждение · Инструменты · Ответ по схеме · Кэш промпта · Потоковый ответ
РассуждениеДумает перед ответом. Глубину задаёте сами: чем больше бюджет, тем точнее и дороже ответ.reasoning.effort
ИнструментыВызывает ваши функции, в том числе несколько параллельно. Основа для агентов.tools
Ответ по схемеОтвет строго по вашей JSON-схеме, без лишнего текста вокруг.response_format
Кэш промптаПовторяющееся начало промпта читается из кэша в 5 раз дешевле.
Потоковый ответТекст приходит по мере генерации, интерфейс не ждёт полного ответа.stream
Не умеетВидит изображенияСоздание изображенийИзображения →

Интеграции

n8n · Codex · Hermes · Kilo · Cline · pi
Документация n8n
  1. 1
    CredentialsAdd credentialOpenAI API
    API Key
    Base URLhttps://api.polyapi.ru/v1
  2. 2
    OpenAI Chat ModelModel

    Переключите поле на By ID и вставьте id модели.

    Modelinclusionai/ling-3.0-tiny

Справочник

поля запроса и ответа, ошибки
Документация
Тело POST /v1/chat/completionsобязательный
model"inclusionai/ling-3.0-tiny"string
messagesИстория диалога: system, user, assistant, tool.array
max_tokensПредел длины ответа в токенах, до 250 000.integer
temperatureСлучайность ответа, 0–2.number
streamОтдавать ответ по частям (SSE).boolean
toolsИнструменты, которые модель может вызвать.array
response_formatJSON-схема для структурированного ответа.object

О модели Ling 3.0 Tiny

Ling-3.0-tiny — лёгкая модель inclusionAI на архитектуре mixture-of-experts: из 7,9 млрд параметров на каждый токен работают 1,3 млрд. Она рассчитана на быстрые ответы и запуск на слабом железе.

Рассуждение перед ответом включено по умолчанию. Разработчик проверял модель на NVIDIA DGX Spark и Mac с Apple Silicon. Веса открыты под лицензией MIT.

Лучшие сценарии

3
  • Отзывчивые агенты — Модель создана для агентов с вызовом инструментов, где важна скорость ответа.
  • Следование инструкциям — Разработчик выделяет инструкции и многоходовые диалоги.
  • Код и математика — По описанию разработчика, модель сбалансирована в коде, математике и науке.

Советы

2
  • Разработчик рекомендует temperature 1.0 и top_p 0.95.
  • Формат ответа задавайте через response_format или прямо в промпте («верни JSON-массив»).

Частые вопросы

Можно ли запустить Ling-3.0-tiny у себя?

Да, веса открыты (MIT) и выложены на Hugging Face в BF16, FP8 и INT4.

Рассуждает ли модель перед ответом?

Да, по умолчанию рассуждение включено.

Сколько стоит Ling 3.0 Tiny через API?

Вход — 1 ₽, выход — 4 ₽, чтение кэша — 0,30 ₽ за миллион токенов. Оплата по факту, без подписки.

Какой контекст у Ling 3.0 Tiny?

262 тыс. токенов: запрос, история диалога и ответ вместе.

Работает ли Ling 3.0 Tiny через SDK OpenAI?

Да. Укажите base_url https://api.polyapi.ru/v1 и model «inclusionai/ling-3.0-tiny» в SDK OpenAI или любом OpenAI-совместимом клиенте.

Ещё от inclusionAI

llms.txt — каталог и подключение текстом для агентов и нейросетей