NN Architecture comparison
Обзор области: методы быстрого и точного сравнения качества нейросетевых архитектур, не требующие полной процедуры обучения, для которой обычно необходимо большое количество вычислительных ресурсов
Проект с компанией
Huawei
ОПИСАНИЕ

Команде проекта предстояло провести полноценный обзор научной литературы, посвященной методам эффективного обучения нейросетевых моделей, оценки их качества, ранжирования моделей согласно их качеству в рамках задачи NAS, которые позволяют сократить число используемых вычислительных ресурсов в несколько раз.

АКТУАЛЬНОСТЬ

Методы ранжирования моделей согласно их качеству значительно ускоряют подбор архитектуры при автоматическом поиске, сводя полную процедуру поиска к нескольким GPU часам. Методы эффективного обучения и оценки их качества позволяют быстрее получать итоговое качество модели, что приводит к ускорению процесса разработки итоговой модели и позволяет сократить объем необходимых вычислительных ресурсов для решения поставленной задачи.
Решение команды
Команда лаборатории провела анализ более 70 работ, на основе 13 из которых сформулировала видение проекта и сформировала план работ по реализации требуемых моделей.
  • Результаты
    - Составлен обзор области
    - Выбраны направления развития моделей
  • Команда
    - Team Lead: Илья Жариков
    - Менеджер проекта: Виктория Янаева
    - Команда исследователей: Филипп Никитин, Иван Криворотов