Данный репозиторий содержит код библиотеки по прореживанию ResNet модели. Для прореживания выбираются группы весов соответствующих нейронам промежуточного представления данных между двумя слоями сверток Residual блока архитектуры.
Модуль inner_data_regularization.py Позволяет запустить поиск наилучшей конфигурации удаления весов в нейронной сети, где в качестве криетрия выбора используется энтропия промежуточного состояния
Модуль iteration.py Позволяет запустить поиск наилучшей конфигурации удаления Residual блоков
Модуль load_and_cut.py Итоговое удаление блоков из модели и сохранение результата
Модуль main_pipeline.py Скрипт обучения моделей с разными гиперпараметрами с сохранением результатов
Модуль metrics.py Снятие метрик с полученной модели
- conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia
- pip install -r requirements.txt