Google Gemini 3.1 Flash-Lite: дешевые агенты с уровнями мышления меняют разработку ИИ

[kirilljsx]

Google Gemini 3.1 Flash-Lite - это новая модель от Google, которая сочетает скорость, низкую цену и уровни мышления. Она позволяет создавать дешевых агентов ИИ, способных на сложные задачи без больших затрат. Это меняет подход к разработке приложений, где раньше требовались дорогие ресурсы.

Модель вышла в марте 2026 года и уже доступна в preview через Gemini API и Vertex AI. Она оптимизирована для высоконагруженных задач: реального времени перевода, модерации контента, генерации UI и симуляций. Разработчики отмечают, что она быстрее предыдущих версий и дешевле в использовании - всего $0.25 за миллион входных токенов.

Что такое Gemini 3.1 Flash-Lite и почему она быстрая

Gemini 3.1 Flash-Lite построена на архитектуре Gemini 3 Pro, но дистиллирована для максимальной скорости и экономии. Она работает на TPU Google с использованием JAX и ML Pathways, поддерживает мультимодальные входы: текст, изображения, аудио и видео. По бенчмаркам Artificial Analysis, время до первого токена (TTFT) в 2.5 раза быстрее, чем у Gemini 2.5 Flash, а скорость вывода - 363 токена в секунду, что на 45% лучше.

Это значит, что для задач с высокой частотой запросов модель дает низкую задержку. Компании вроде Latitude и Cartwheel уже используют ее в продакшене: Latitude сообщает о 20% росте успеха и 60% ускорении инференса. HubX достигла завершения задач за менее 10 секунд с 97% соблюдением инструкций. Такие показатели делают ее идеальной для интерактивных инструментов.

Вот ключевые метрики скорости:

• TTFT: 2.5x быстрее Gemini 2.5 Flash.
• Вывод: 363 токена/с (против 249 у предшественника).
• Общая латентность: оптимизирована для high-frequency workflows.

Характеристика	Gemini 3.1 Flash-Lite	Gemini 2.5 Flash
TTFT	2.5x быстрее	Базовый
Скорость вывода	363 ток/с	249 ток/с
Цена input	$0.25/1M токенов	Дороже

Уровни мышления: от легких задач к агентам

Одна из фишек - уровни мышления (thinking levels), где разработчики настраивают глубину размышлений. Для простого чата хватит легкого режима, а для генерации UI или симуляций - глубокого. Модель поддерживает Thinking, function calling, code execution в sandbox и grounding с Google Search для фактичности.

Она обрабатывает до 1 миллиона токенов на вход (анализ 45 мин видео или 3000 изображений) и выдает до 64k токенов. Elo-рейтинг 1432 на Arena.ai, 86.9% на GPQA Diamond - превосходит многие модели своего класса. Примеры: заполняет e-commerce wireframe сотнями продуктов, генерирует динамичные дашборды погоды или SaaS-агентов для multi-step задач.

Возможности агентов:

• Function calling и structured output для интеграции с API.
• Code execution в изолированной среде.
• Context caching для снижения затрат на повторные запросы.
• Grounding с поиском для точных ответов.

Нюанс: knowledge cutoff - январь 2026, так что для свежих данных используйте grounding.

Технические спецификации и кейсы использования

Модель нативно мультимодальна и подходит для крупных проектов. Максимум: 3000 изображений (до 7 МБ каждое), 45 мин видео с аудио, 8.4 часа аудио. Поддерживает chat completions, RAG Engine, но не Gemini Live API или image generation.

Реальные кейсы от early-access разработчиков: динамическая генерация UI для e-commerce, модерация контента на скоростях, симуляции данных. Whering использует для сортировки изображений, Latitude - для агентов с высокой точностью инструкций. Это упрощает миграцию с 2.5 Flash, улучшая качество ответов и ASR для аудио.

Сравнение мультимодальности:

Тип входа	Лимит	Применение
Изображения	До 3000, 7 МБ	Анализ, генерация UI
Видео	45 мин с аудио	Транскрипция, модерация
Аудио	8.4 часа	ASR, перевод
Токены	1M input / 64k output	Длинные документы, видео

Преимущества для dev: низкая цена + производительность Pro уровня.

Масштабные агенты по дешевой цене

Gemini 3.1 Flash-Lite democratizes сложные агенты: теперь их можно запускать на объемах без разорения бюджета. Она меняет разработку ИИ, делая акцент на throughput и responsiveness. За кадром остались детали enterprise-интеграций в Vertex AI и будущие обновления preview.

Стоит присмотреться к комбинациям с caching для repetitive задач - это дальше снизит costs. Модель уже показывает, как lightweight ИИ справляется с Pro-задачами, открывая двери для новых приложений в реальном времени.