caxapa.ru :: Потому что арифметика целочисленная.

мимокрокодил (17.12.2015 21:46, просмотров: 1) ответил misyachniy на Некорректное поведение текущего среднего?

Потому что арифметика целочисленная. y = floor((255*y + x)/256); Если y == 9690, то для перескока вниз на единицу достаточно x <= 9690*256 - 1 - 9690*255 = 9689 А для перескока вверх на единицу нужно x >= 9691*256 - 9690*255 = 9946

- и не стоит забывать что сдвиг это НЕ всегда деление на степень двойки ((-1)>>1)==(-1) - IBAH(21.12.2015 14:41)
  - Я как бы в курсе, поэтому floor() и написал. - мимокрокодил(21.12.2015 22:00, )
  - Почему же? Именно деление с округлением до ближайшего целого снизу: -1/2=-0,5 округлили до -1. - SciFi(21.12.2015 14:48)
    - А если все-таки воспользоваться естественной операцией деления - -1/2, каков результат будет? - Bill(21.12.2015 22:04)
    - Мечта чиновника, делим фонды IBAH(87 знак., 21.12.2015 15:27)
      - Отрицательное - это долги. Получается размножение долгов - мечта банкира. Вы банкиров этим удивить не сможете, они и не такое умеют :-) - SciFi(21.12.2015 15:37)
- "Кто виноват?" понятно, а второй извечный вопрос? - misyachniy(18.12.2015 20:58)
  - Можно сохранять младшие биты в аккумуляторе мимокрокодил(569 знак., 19.12.2015 13:02, )

Кибернетика, автоматика, протоколы