Учёные из Московского физико‑технического института (МФТИ) представили новую технологию под названием HARP, способную облегчить работу нейросетей в дата‑центрах. По сути, HARP уменьшает нагрузку на вычислительные ресурсы и сокращает объём памяти, при этом не жертвуя точностью моделей.
Сначала система проходит этап предварительной настройки: она сканирует архитектуру нейросети и подбирает для каждого слоя оптимальные преобразования. Этот процесс занимает некоторое время, но в результате модель работает быстрее и занимает заметно меньше места в памяти.
Главный плюс подхода — отсутствие необходимости полностью переобучать нейросеть. Достаточно выполнить дополнительную калибровку, что позволяет существенно сэкономить вычислительные и временные ресурсы.
В тестах HARP показала себя особенно эффективно на крупных языковых моделях Llama и Qwen‑3. При самом агрессивном сжатии количество ошибок в их работе уменьшилось на 12‑15 %, что подтверждает практическую ценность метода.
Разработчики не только проверили технологию в реальных условиях, но и сделали её открытой. Уже оптимизированные с помощью HARP нейросети размещены в открытом доступе, что открывает возможности для других исследователей и разработчиков использовать эти наработки в своих проектах.
