Если для определения углового положения, то обычно используются единицы измерения "per unit" или "PU". 0.0 это 0, 1.0 это максимальное значение (360 градусов). Ноль равен единице. Можно и целочисленную арифметику использовать.
Если для определения угловой скорости, то продвинутые алгоритмы используют фильтры Калмана, которые могут выдавать прогнозируемый результат асинхронно от входа, что позволяет использовать "наблюдатель углового положения" относительно независимо от поступления данных в этот самый "наблюдатель".
Вот некоторые старые статьи, которые я использовал для работы с энкодером.