К содержимому
NVIDIA·вышла

Nemotron 3.5 Lightning

Компактная открытая модель NVIDIA для высоконагруженных агентных сценариев и задач с доменной донастройкой.

Вход ₽/1М5 ₽
Выход ₽/1М16 ₽
Контекст262 тыс.
Скорость293ток/с
Индекс6№38 из 45

Подключение

Адресhttps://api.polyapi.ru/v1
Ключ
Модельnvidia/nemotron-3.5-lightning

Пример запроса

1from openai import OpenAI
2
3client = OpenAI(base_url="https://api.polyapi.ru/v1", api_key="<ключ polyapi>")
4r = client.chat.completions.create(
5 model="nvidia/nemotron-3.5-lightning",
6 messages=[
7 {
8 "role": "user",
9 "content": "Извлеки из письма данные заказа и верни только JSON с полями company, inn, items (name, qty), delivery_date (YYYY-MM-DD), comment. Чего нет в письме — null.\n\nПисьмо:\n«Добрый день! ООО «Северный ветер», ИНН 7701234567. Просим отгрузить 40 коробок бумаги А4 и 12 картриджей HP 85A. Доставка нужна до 14 ноября 2026, склад на Складочной, 1. Счёт пришлите на почту бухгалтерии.»"
10 }
11 ],
12 temperature=0.7,
13 max_tokens=4096,
14)
15print(r.choices[0].message.content)

Цены

За 1М токеновЦена
Вход5 ₽
Выход16 ₽
Чтение из кэша2 ₽

Ошибка до начала ответа не списывается. Если ответ оборвался у провайдера или по таймауту, списываем вход и дошедшую часть. Если соединение закрыли вы, модель допишет ответ, и он спишется целиком (подробнее). Оплата картой или по счёту.

Возможности

Рассуждение · Инструменты · Ответ по схеме · Кэш промпта · Потоковый ответ
РассуждениеДумает перед ответом. Глубину задаёте сами: чем больше бюджет, тем точнее и дороже ответ.reasoning.effort
ИнструментыВызывает ваши функции, в том числе несколько параллельно. Основа для агентов.tools
Ответ по схемеОтвет строго по вашей JSON-схеме, без лишнего текста вокруг.response_format
Кэш промптаПовторяющееся начало промпта читается из кэша в 2 раз дешевле.
Потоковый ответТекст приходит по мере генерации, интерфейс не ждёт полного ответа.stream
Не умеетВидит изображенияСоздание изображенийИзображения →

Интеграции

n8n · Codex · Hermes · Kilo · Cline · pi
Документация n8n
  1. 1
    CredentialsAdd credentialOpenAI API
    API Key
    Base URLhttps://api.polyapi.ru/v1
  2. 2
    OpenAI Chat ModelModel

    Переключите поле на By ID и вставьте id модели.

    Modelnvidia/nemotron-3.5-lightning

Справочник

поля запроса и ответа, ошибки
Документация
Тело POST /v1/chat/completionsобязательный
model"nvidia/nemotron-3.5-lightning"string
messagesИстория диалога: system, user, assistant, tool.array
max_tokensПредел длины ответа в токенах, до 235 929.integer
temperatureСлучайность ответа, 0–2.number
streamОтдавать ответ по частям (SSE).boolean
toolsИнструменты, которые модель может вызвать.array
response_formatJSON-схема для структурированного ответа.object

О модели Nemotron 3.5 Lightning

NVIDIA Nemotron 3.5 Lightning — модель mixture-of-experts на 30 млрд параметров, из них 3 млрд активных. По описанию на OpenRouter, она рассчитана на высоконагруженные агентные сценарии и задачи, которым полезна донастройка под домен.

Архитектура гибридная: слои Mamba-2 и MoE со слоями внимания. Открыты веса (OpenMDW License 1.1), данные обучения и рецепты.

Лучшие сценарии

2
  • Агентные конвейеры — Высоконагруженные агентные сценарии.
  • Доменная донастройка — Основа для дообучения под свою задачу.

Ограничения

1
  • Русского нет в списке языков, которые NVIDIA называет для модели.

Советы

2
  • NVIDIA рекомендует temperature 1.0 и top_p 0.95.
  • Пишите на одном из языков, которые называет NVIDIA: английский, испанский, французский, немецкий, итальянский, японский.

Частые вопросы

Можно ли дообучить модель?

Да, NVIDIA выпускает BF16-веса как эталон для SFT, RL и дистилляции.

Можно ли запустить модель у себя?

Да. Для инференса NVIDIA рекомендует релиз NVFP4.

Сколько стоит Nemotron 3.5 Lightning через API?

Вход — 5 ₽, выход — 16 ₽, чтение кэша — 2 ₽ за миллион токенов. Оплата по факту, без подписки.

Какой контекст у Nemotron 3.5 Lightning?

262 тыс. токенов: запрос, история диалога и ответ вместе.

Работает ли Nemotron 3.5 Lightning через SDK OpenAI?

Да. Укажите base_url https://api.polyapi.ru/v1 и model «nvidia/nemotron-3.5-lightning» в SDK OpenAI или любом OpenAI-совместимом клиенте.

Ещё от NVIDIA

llms.txt — каталог и подключение текстом для агентов и нейросетей