1. Как я запустил 30-миллиардную модель Nemotron-Cascade-2 на домашней RTX 3090: тест для кодинга и науки
Запуск 30-миллиардной языковой модели на одной видеокарте для потребителя — это вызов. Пользователь Habr проверил, может ли мощная модель Nemotron-Cascade-2 стать полноценным локальным ассистентом для программирования и научных задач на домашнем железе. Ключевой вопрос: способна ли такая архитектура работать эффективно...