Исследователи ИИ-центра «Т-Банка» представили два новых метода обучения моделей, направленных на оптимизацию расходов компаний, запускающих искусственный интеллект на собственной инфраструктуре. Первый метод позволяет заменить множество узкоспециализированных языковых моделей одной универсальной, что существенно экономит вычислительные мощности GPU. В «Т-Банке» такая модель на 32 млрд параметров объединила более 200 внутренних сервисов и обрабатывает запросы в 2,8—3,9 раза дешевле, чем модель Qwen3-235B с 235 млрд параметров. Исследователи стали первыми, кто описал воспроизводимую методику постобучения русскоязычных больших языковых моделей с агентскими навыками. Обученная модель на основе Qwen3-32B уже принимает на себя половину всего трафика внутренней LLM-платформы банка ежемесячно и превосходит более крупные аналоги по качеству ответов на корпоративные запросы и следованию инструкциям.
Второй метод обучает визуально-языковые модели извлекать данные из документов любого типа по текстовому запросу, что обходится на 80% дешевле ручной обработки и на 50% дешевле, чем работа лучших открытых моделей. Для реализации этого подхода исследователи разработали пайплайн подготовки данных Difficulty-Aware Data Curation, который отбирает из открытых PDF-документов примеры, близкие к реальным бизнес-задачам. Модель на основе Qwen3.5-35B-A3B-Base, обученная с помощью этого метода, содержит 35 млрд параметров, но задействует только 3 млрд при обработке одного запроса, а для ее дообучения достаточно одного GPU Nvidia H100. По результатам замеров использование такой модели сокращает затраты более чем на 80% по сравнению с ручной обработкой и более чем на 50% по сравнению с лучшей из протестированных открытых моделей.
Разработанные методики включают три этапа обучения: начальное обучение на примерах с правильными ответами, улучшение по трем направлениям с помощью GRPO (метод обучения с подкреплением) и объединение специализированных версий в одну универсальную с помощью метода SLERP. Качество моделей проверяется специальными тестами, имитирующими реальные запросы сотрудников, с автоматической проверкой по критериям или с помощью откалиброванных LLM-судей. Исследователи также предложили модель расчета экономической эффективности, учитывающую качество извлечения, стоимость инференса и работу человека, что позволяет использовать ИИ только там, где это выгоднее. Внутренние расчеты показали, что полученная модель требует меньше GPU для запуска, чем популярная открытая модель Qwen3.5-397B-A17B-FP8, и обрабатывает большее количество документов в секунду, чем Qwen2.5-VL-72B. Оба метода будут полезны финансовым организациям, телеком-компаниям и промышленным предприятиям для создания корпоративных ИИ-ассистентов и обработки внутренних документов.
