Метод SharedKD сочетает в себе сжатие нейросети и дистилляцию знаний в рамках одного детектора
15 августа 2026, 21:18Искусственный интеллектDarth Sahara0
Исследователи из Университета Кукмин и Hyundai Motor представили метод SharedKD для оптимизации моделей 3D-детекции, используемых в системах восприятия окружающей среды.
На тестировании nuScenes метод продемонстрировал NDS (nuScenes Detection Score — комплексная оценка качества 3D-детекции), который оказался на 2,55% выше предыдущего рекорда при удалении 75% структуры исходной модели.
Основное отличие SharedKD заключается в том, как авторы интегрировали два распространенных метода уменьшения нейросетей — pruning и дистилляцию знаний. Обычно в дистилляции большая модель-«учитель» и компактная модель-«ученик» функционируют отдельно: учитель передает ученику информацию о том, как решать задачу. В SharedKD полная версия сети сама становится динамическим учителем, а её уменьшенная подсеть — учеником. Градиентно-управляемый механизм выбора позволяет этим компонентам изменяться одновременно в процессе обучения, что исключает необходимость в создании отдельной постоянно поддерживаемой сети-учителя.
Авторы протестировали метод на nuScenes — наборе данных для разработки систем автономного вождения, содержащем данные с автомобильных сенсоров и разметку объектов окружающей среды. При коэффициенте pruning 75% SharedKD превзошёл предыдущий результат на 2,55% по NDS. Этот показатель объединяет несколько характеристик качества 3D-детектора и используется для общего оценки точности распознавания и локализации объектов в пространстве. Таким образом, заявленный результат относится именно к указанной степени сокращения модели и конкретному тесту nuScenes.
Архитектура SharedKD предназначена для ситуаций, когда моделям компьютерного зрения необходимо одновременно сохранять точность и работать с ограниченными вычислительными ресурсами. Согласно данным Университета Кукмин, метод способствует снижению вычислительной нагрузки и времени выполнения, однако в опубликованных материалах отсутствуют конкретные измерения этих параметров. В частности, авторы не уточнили производительность на автомобильных ускорителях, задержку обработки кадров, пропускную способность, потребление памяти или электроэнергии.
Поэтому представленный результат на данный момент является исследовательским: он демонстрирует преимущества метода на бенчмарке, но не подтверждает готовность SharedKD к внедрению в серийный автомобиль. Для такого вывода необходимы отдельные испытания на целевом оборудовании с конкретными конфигурациями сенсоров, ограничениями по задержке и наборами данных, используемыми для проверки безопасности систем автономного вождения.
Источники:letsdatascienceИскусственный интеллект0Искусственный интеллектАвтономное вождениеКомпьютерное зрениеДистилляция знанийHyundai MotorEdge AI42 минуты назад
Источник