MiniMax открыла веса M3.1 Flash: MoE-модель на 428 млрд параметров для ИИ-агентов
MiniMax опубликовала веса M3.1 Flash на Hugging Face. Модель рассчитана на программирование, многошаговые задачи с вызовом инструментов, управление компьютерным интерфейсом и анализ уязвимостей. Всего в ней около 428 млрд параметров, но при обработке каждого токена активируются примерно 23 млрд. M3.1 Flash принимает текст, изображения и видео, а размер контекстного окна достигает миллиона токенов. За скорость инференса отвечают три механизма: MiniMax Sparse Attention сокращает объём вычислений…
Полный текст не публикуется. Источник: Habr