caxapa.ru :: 2^32/12000000 ~ (358 - 358/4096) с точностью 4 ppm. Для кварца хватит.

SciFi (13.12.2022 12:19, просмотров: 163) ответил Dingo на Поясните? Я знаю, что зачастую можно заменить деление умножением на обратную величину, но как это в данном случае применимо?

2^32/12000000 ~ (358 - 358/4096) с точностью 4 ppm. Для кварца хватит.

ส็็็็็็็็็็็็็็็็็็็็็็็็็༼ ຈل͜ຈ༽ส้้้้้้้้้้้้้้้้้้้้้้้

Ответить

- Интересен вывод констант и оценка погрешности. 358 ~= 2^32/12M, а откуда "-358/4096" взялось? И из какого букваря этот способ? - Dingo(13.12.2022 12:32)
  - Если покопаться в инете - есть сайт для онлайн подбора и оценки точности такого метода. Я в закладки клал, но потерял куда-то. - Andreas(13.12.2022 12:59)
  - Опирался исключительно на школьный курс арифметики. Кстати, важно то, что 2^32/12000000 > (358 - 358/4096), то есть переполнения не будет. Ну и в конце каждой секунды будет скачок на 4 мкс, но это такие мелочи... - SciFi(13.12.2022 12:41)
    - Правильно рассуждаю? x ~= y * 2^32/12M, dx = 358-(2^32/12M), далее сравниваем dx/358 с величинами 1/(2^n). Школьная арифметика необходимое, но не достаточное условие ведь! Вот я и интересуюсь, где подсмотрели? - Dingo(13.12.2022 12:55 - 12:58)
      - Нигде не подсматривал, сам придумал! Пойду выпишу себе математическую премию :-) - SciFi(13.12.2022 12:58)
        
        Нашел, где я подобное видел: ряды, в частности Маклорена Dingo(478 знак., 15.12.2022 11:33)
        
        Врешь, у меня стырил! :)) --> MBedder(1 знак., 13.12.2022 19:11, ссылка)
        
        ни фига на понимаю, клинопись какая-то :-) - SciFi(13.12.2022 19:16)
        
        Хм.. а как жы тогда вот это? :)) --> MBedder(1 знак., 14.12.2022 20:08, ссылка)
        
        Единство и борьба противоположностей! - SciFi(14.12.2022 20:21)
        
        Во всяком случае ваше математическое кунг-фу лучше моего сейчас. - Dingo(13.12.2022 13:01)

Микроконтроллеры