Mistral AI выложила в открытый доступ несколько десятков моделей с разными возможностями: от лёгких для чата до тяжёлых для кода. Всего в каталоге 14 моделей разработчика с открытыми весами, у десяти из них есть API. Ниже — разбор, чем отличаются эти модели и как выбрать подходящую для своих задач.
Открытая нейросеть от Mistral AI означает, что файлы с весами модели выложены в общий доступ. Такие файлы можно скачать, запустить на собственном компьютере или сервере, а также дообучить под конкретную задачу. Дообучение позволяет адаптировать модель под корпоративные данные или специфические сценарии.
Лицензии у разных моделей различаются. Часть открыта по лицензии Apache — это разрешает свободное использование и изменение, в том числе в коммерческих продуктах. У некоторых моделей действуют другие условия: например, у Mistral Medium 3.5 — модифицированная лицензия MIT, а у Pixtral Large — исследовательская или коммерческая лицензия.
Открытый код и веса позволяют бизнесу не зависеть от внешних сервисов. Модель можно развернуть в собственной инфраструктуре, контролируя данные и затраты на вычисления.
Открытые веса — это файлы обученной модели.
Их можно скачать и запустить локально.
Лицензии разрешают дообучение под свои задачи.
Apache разрешает коммерческое использование.
Коммерческое использование возможно при соблюдении условий лицензии.
Какие модели Mistral выложены в открытый доступ
В открытом доступе находятся четырнадцать моделей Mistral AI. Среди них Mixtral 8x7B и Mixtral 8x22B — архитектуры на основе смеси экспертов, работающие с текстом. Также доступны Mistral Large 3, Mistral Medium 3.5 и Mistral Small 4 — универсальные модели для различных задач.
Семейство Ministral представлено тремя размерами: 3B, 8B и 14B — это компактные модели, подходящие для локального запуска. Leanstral 1.5 ориентирована на науку и код, Shieldstral 1.0 — на безопасность, а Magistral Small — на чат. Отдельно стоят мультимодальные Pixtral Large и голосовые Voxtral Small и Voxtral TTS.
Каждая из этих моделей имеет свои сильные стороны: одни лучше справляются с генерацией текста, другие — с изображениями или аудио.
Mixtral 8x7B и 8x22B — мощные модели для текста.
Mistral Large 3 — флагман для сложных задач.
Ministral 3B, 8B, 14B — компактные для локального запуска.
Leanstral 1.5 — для науки и кода.
Pixtral Large — для работы с изображениями и текстом.
Какие модели подойдут для программирования и кода
Для программирования Mistral предлагает несколько моделей, которые обучались на кодовых базах. Mistral Large 3 поддерживает не только текст, но и код, а также понимает изображения — это помогает при работе с диаграммами и скриншотами.
Leanstral 1.5 выделяется среди остальных: она создана специально для научных и инженерных задач, включая написание и анализ кода. Эти модели можно использовать как в чате, так и через API.
Для выбора подходящей модели важно учитывать объём проекта и требуемую точность. Универсальные модели с кодом могут подойти для большинства задач, но специализированная Leanstral 1.5 может показать более высокие результаты в этой области.
Leanstral 1.5 предназначена для науки и кода.
Mistral Large 3 понимает код и изображения.
Mistral Medium 3.5 и Small 4 поддерживают код.
Есть API для моделей с поддержкой кода.
В чём особенности мультимодальных моделей Mistral
Мультимодальные модели Mistral работают одновременно с текстом и изображениями: они могут распознавать картинки, диаграммы и схемы, а также отвечать на вопросы по ним. Среди таких моделей Ministral 3 (все размеры), Mistral Large 3, Mistral Medium 3.5, Mistral Small 4 и Pixtral Large. Pixtral Large специализируется именно на изображениях, но также понимает текст.
Отдельно стоит Voxtral Small — она обрабатывает аудио и речь, преобразуя их в текст (транскрибация). Такая модель полезна для переговоров, лекций и любых аудиофайлов.
Важно помнить, что для работы с изображениями и аудио требуются дополнительные ресурсы: память и вычислительная мощность. Некоторые модели с изображениями доступны и через API, что упрощает интеграцию.
Мультимодальные модели понимают текст и картинки.
Pixtral Large — для работы с изображениями.
Voxtral Small распознаёт речь и аудио.
Ministral 3 поддерживает тексты и изображения.
Где использовать открытые модели: локальный запуск, API, лицензии
Открытые модели Mistral AI можно использовать двумя способами: запускать локально на своём оборудовании или обращаться через API. Локальный запуск даёт полный контроль над данными и не требует постоянного интернет-соединения, но требует мощного компьютера. API-доступ есть у десяти моделей набора, что облегчает интеграцию без развёртывания инфраструктуры.
Лицензии определяют, как можно использовать модель. Apache разрешает свободное использование и коммерческое применение, но с указанием авторства. Модифицированная лицензия MIT также довольно свободна, а исследовательская лицензия Mistral ограничивает использование в научных целях.
Для бизнеса важным фактором становится возможность внедрения модели в собственный продукт. При соблюдении лицензии можно использовать открытые модели в коммерческих продуктах, но если для вас это критично, уточняйте детали в тексте лицензии.
Локальный запуск даёт контроль над данными.
API упрощает интеграцию в приложения.
Apache позволяет коммерческое использование.
Модифицированная лицензия MIT также разрешает коммерцию.
Лицензия для Pixtral Large имеет особые условия.
Какие модели Mistral можно запускать локально и с какими требованиями
Не все открытые модели Mistral легко запустить на домашнем компьютере. Специально для локального использования создано семейство Ministral 3 — модели с параметрами 3B, 8B и 14B. Они оптимизированы так, чтобы работать на современных видеокартах и даже на компьютерах без мощного GPU.
Для запуска моделей большего размера, например Mixtral 8x22B, понадобятся значительные ресурсы: объём оперативной памяти должен соответствовать весу модели, а для комфортной работы потребуется видеокарта с достаточным объёмом памяти.
Перед запуском рекомендуется проверить совместимость с вашим железом. Некоторые модели могут работать в урезанном виде с меньшей точностью, если не хватает ресурсов.
Ministral 3B, 8B, 14B подходят для локального запуска.
Модель побольше требует и памяти побольше.
Для комфортной работы нужна современная видеокарта.
Можно запускать и без GPU, но медленнее.
С какой моделью Mistral начать и как протестировать
Новичкам стоит начать с моделей, которые точно работают в России: Mixtral 8x7B и Mixtral 8x22B доступны без ограничений. Для лёгкого старта подойдёт Ministral 3B: она занимает немного памяти и может работать на обычном ноутбуке. Скачайте веса с официального сайта или из репозитория моделей.
У многих моделей есть API — это самый простой способ попробовать их без настройки окружения. Например, Mistral Large 3 или Mistral Small 4 можно протестировать через API, отправив несколько запросов. Обратите внимание, что для использования из России доступ к API может потребовать дополнительных настроек.
Обратите внимание на лицензию: если планируете использовать модель в своём проекте, убедитесь, что это разрешено. Например, Voxtral TTS имеет лицензию CC, которая ограничивает коммерческое использование — её нельзя использовать для коммерческих целей без специального разрешения.
Mixtral 8x7B и 8x22B работают из России.
Ministral 3B подойдёт для первого локального запуска.
API даёт быстрый доступ без скачивания весов.
Проверьте лицензию, особенно для коммерции.
Ангелина МартыноваАвтор раздела "Нейросети".
Частые вопросы
Открытые веса — это файлы с параметрами обученной модели. Их можно скачать и использовать без обращения к разработчику. Веса позволяют запускать модель локально и адаптировать её под свои задачи.
Все 14 моделей в каталоге имеют открытые веса и распространяются по лицензиям, которые допускают бесплатное скачивание. Однако использование в коммерческих целях может быть ограничено лицензией.
Да, если лицензия модели это разрешает. Модели с лицензией Apache можно свободно использовать в коммерческих продуктах. Для других моделей важно проверить условия лицензии.
Leanstral 1.5 специализируется на научном и инженерном коде. Mistral Large 3 также сильно в генерации кода и поддерживает изображения. Выбор зависит от конкретной задачи.
Mixtral 8x7B и Mixtral 8x22B доступны для работы из России без ограничений. Для остальных моделей доступность напрямую не проверялась, но через зарубежные сервисы они могут быть доступны.
