Яндекс Музыка запускает офлайн-рекомендации: нейросеть TinyML работает на смартфоне без интернета
Яндекс Музыка совершила технологический прорыв, выведя свою рекомендательную систему «Моя волна» в офлайн. Новая технология TinyML позволяет формировать персонализированные плейлисты прямо на устройстве пользователя, без подключения к интернету и мощным дата-центрам. Это кардинально меняет парадигму, где раньше требовались нейросети-трансформеры с сотнями миллиардов параметров, недоступные для локального исполнения.
Ключевая инновация — упаковка сложного алгоритма в модель размером всего около 100 килобайт. Теперь, даже при потере сети, система не просто продолжит воспроизведение заранее загруженных треков, но будет в реальном времени анализировать действия пользователя и адаптировать рекомендации под его текущие предпочтения. Разработчикам пришлось радикально переработать архитектуру, чтобы добиться такой эффективности на ограниченных ресурсах смартфона.
Внедрение полностью локальной рекомендательной системы создает новый стандарт для стриминговых сервисов, повышая отказоустойчивость и приватность пользовательского опыта. Это также открывает путь для применения аналогичных компактных моделей машинного обучения в других мобильных приложениях, где критична автономная работа и низкое потребление ресурсов.