Mistral 7B провалился на русском: как ML-инженеры искали решение для автоматизации протоколов встреч

Попытка создать русскоязычный ИИ для автоматического протоколирования встреч наткнулась на фундаментальную проблему: даже передовая открытая модель Mistral 7B демонстрировала критически низкое качество работы с русским языком. Модель систематически ошибалась в склонениях, игнорировала русскоязычные промпты и теряла нить в длинных диалогах, что делало её непригодной для задачи точного суммирования переговоров. Это разбило первоначальную иллюзию о простом решении на базе Whisper и готовой LLM, заставив команду ML-инженеров искать собственный путь.

Исходной точкой стала личная боль разработчика: постоянная необходимость вручную восстанавливать решения после часовых созвонов. Отсутствие на рынке качественных русскоязычных решений для суммаризации диалогов привело к выбору Mistral 7B в качестве базовой модели для дообучения. Однако стандартные методы адаптации, включая LoRA (Low-Rank Adaptation), не принесли ожидаемого результата в преодолении языкового барьера модели.

Провал базового подхода сигнализирует о более широкой проблеме в области русскоязычного NLP: даже сильные мультиязычные модели могут демонстрировать неадекватное качество для профессиональных задач, требующих глубокого понимания контекста и грамматики. Этот кейс создает давление на команды, разрабатывающие enterprise-решения для русского рынка, вынуждая их инвестировать в сложные и дорогостоящие проекты по дообучению и тонкой настройке, вместо использования готовых инструментов. Успех или неудача такого проекта напрямую влияет на автоматизацию бизнес-процессов в русскоязычных компаниях.