Для векторных операций замена 32-битных чисел с плавающей запятой на 8-битные целые числа приводит к кратному увеличению производительности. Техники сокращения битности чисел принято называть квантизацией и в цикле Samsung Innovation Campus опубликована вводная лекция о квантизации параметров нейронных сетей. Процесс сведения к минимуму возникающих потерь и подбора оптимальных параметров можно сделать обучаемым, главное правильно реализовать методы дифференцирования.
Иван Печенко, ведущий инженер исследовательского центра Samsung в Москве, рассказывает что такое квантизация, почему её использование важно в индустрии, как рассчитываются параметры квантизации и как сделать их обучаемыми.
Приглашаем к просмотру!