К содержимому
Mistral·вышла

Mistral Nemo

Открытая модель Mistral на 12 млрд параметров, сделанная вместе с NVIDIA: многоязычная, с вызовом функций.

Вход ₽/1М3 ₽12 ₽
Выход ₽/1М3 ₽12 ₽
Контекст131 тыс.

Подключение

Адресhttps://api.polyapi.ru/v1
Ключ
Модельmistralai/mistral-nemo

Пример запроса

1from openai import OpenAI
2
3client = OpenAI(base_url="https://api.polyapi.ru/v1", api_key="<ключ polyapi>")
4r = client.chat.completions.create(
5 model="mistralai/mistral-nemo",
6 messages=[
7 {
8 "role": "user",
9 "content": "Ты сотрудник поддержки интернет-магазина. Напиши ответ клиенту, коротко и по делу, без канцелярита. Заказ задержан на 3 дня из-за сбоя у перевозчика, новая дата доставки — 12 ноября. Компенсация — промокод на 10 % на следующий заказ.\n\nСообщение клиента: «Заказ 58213 должен был приехать вчера, трек не обновляется уже четыре дня. Что происходит?»"
10 }
11 ],
12 temperature=0.7,
13 max_tokens=1024,
14)
15print(r.choices[0].message.content)

Цены

За 1М токеновЦенаMistral
Вход3 ₽12 ₽
Выход3 ₽12 ₽
Чтение из кэша1 ₽

Ошибка до начала ответа не списывается. Если ответ оборвался у провайдера или по таймауту, списываем вход и дошедшую часть. Если соединение закрыли вы, модель допишет ответ, и он спишется целиком (подробнее). Оплата картой или по счёту.

Возможности

Инструменты · Ответ по схеме · Кэш промпта · Потоковый ответ
ИнструментыВызывает ваши функции, в том числе несколько параллельно. Основа для агентов.tools
Ответ по схемеОтвет строго по вашей JSON-схеме, без лишнего текста вокруг.response_format
Кэш промптаПовторяющееся начало промпта читается из кэша в 3 раз дешевле.
Потоковый ответТекст приходит по мере генерации, интерфейс не ждёт полного ответа.stream
Не умеетРассуждениеВидит изображенияСоздание изображенийИзображения →

Интеграции

n8n · Codex · Hermes · Kilo · Cline · pi
Документация n8n
  1. 1
    CredentialsAdd credentialOpenAI API
    API Key
    Base URLhttps://api.polyapi.ru/v1
  2. 2
    OpenAI Chat ModelModel

    Переключите поле на By ID и вставьте id модели.

    Modelmistralai/mistral-nemo

Справочник

поля запроса и ответа, ошибки
Документация
Тело POST /v1/chat/completionsобязательный
model"mistralai/mistral-nemo"string
messagesИстория диалога: system, user, assistant, tool.array
max_tokensПредел длины ответа в токенах, до 16 384.integer
temperatureСлучайность ответа, 0–2.number
streamОтдавать ответ по частям (SSE).boolean
toolsИнструменты, которые модель может вызвать.array
response_formatJSON-схема для структурированного ответа.object

О модели Mistral Nemo

Mistral NeMo — модель Mistral AI и NVIDIA на 12 млрд параметров, замена Mistral 7B. По сравнению с ней, пишет Mistral, NeMo заметно лучше следует инструкциям, рассуждает, ведёт многоходовые диалоги и пишет код.

Модель многоязычная: английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и хинди. Поддерживает вызов функций, веса открыты под Apache 2.0.

Лучшие сценарии

3
  • Многоходовые диалоги — По словам Mistral, заметно лучше Mistral 7B ведёт диалог и следует инструкциям.
  • Многоязычные тексты — Английский, французский, немецкий, испанский, китайский, японский, корейский, арабский, хинди и другие из списка Mistral.
  • Вызов функций — Простые агенты и интеграции с инструментами.

Ограничения

2
  • Нет встроенной модерации.
  • Русского нет в списке языков, которые Mistral называет для модели.

Советы

2
  • Mistral рекомендует температуру ниже, чем у прежних моделей: около 0.3.
  • Задачу и формат ответа описывайте явно и коротко.

Частые вопросы

Есть ли у модели модерация?

Нет. В карточке модели Mistral прямо пишет, что механизмов модерации у неё нет: фильтрацию, если она нужна, делайте на своей стороне.

Можно ли запустить модель у себя?

Да, веса открыты под лицензией Apache 2.0 и выложены на Hugging Face. Модель обучена с учётом квантования и работает в FP8 без потери качества.

Сколько стоит Mistral Nemo через API?

Вход — 3 ₽, выход — 3 ₽, чтение кэша — 1 ₽ за миллион токенов. Оплата по факту, без подписки.

Какой контекст у Mistral Nemo?

131 тыс. токенов: запрос, история диалога и ответ вместе.

Работает ли Mistral Nemo через SDK OpenAI?

Да. Укажите base_url https://api.polyapi.ru/v1 и model «mistralai/mistral-nemo» в SDK OpenAI или любом OpenAI-совместимом клиенте.

Ещё от Mistral

llms.txt — каталог и подключение текстом для агентов и нейросетей