Dingo (13.12.2022 12:32, просмотров: 177) ответил SciFi на 2^32/12000000 ~ (358 - 358/4096) с точностью 4 ppm. Для кварца
хватит.-
- Если покопаться в инете - есть сайт для онлайн подбора и оценки точности такого метода. Я в закладки клал, но потерял куда-то. - Andreas(13.12.2022 12:59)
- Опирался исключительно на школьный курс арифметики. Кстати, важно
то, что 2^32/12000000 > (358 - 358/4096), то есть переполнения
не будет. Ну и в конце каждой секунды будет скачок на 4 мкс, но это
такие мелочи... - SciFi(13.12.2022 12:41)
- Правильно рассуждаю? x ~= y * 2^32/12M, dx = 358-(2^32/12M), далее
сравниваем dx/358 с величинами 1/(2^n). Школьная арифметика
необходимое, но не достаточное условие ведь! Вот я и интересуюсь,
где подсмотрели? - Dingo(13.12.2022 12:55 - 12:58)
- Нигде не подсматривал, сам придумал! Пойду выпишу себе
математическую премию :-) - SciFi(13.12.2022 12:58)
- Нашел, где я подобное видел: ряды, в частности Маклорена Dingo(478 знак., 15.12.2022 11:33)
- Врешь, у меня стырил! :)) --> MBedder(1 знак., 13.12.2022 19:11, ссылка)
- ни фига на понимаю, клинопись какая-то :-) - SciFi(13.12.2022 19:16)
- Хм.. а как жы тогда вот это? :)) --> MBedder(1 знак., 14.12.2022 20:08, ссылка)
- Единство и борьба противоположностей! - SciFi(14.12.2022 20:21)
- Хм.. а как жы тогда вот это? :)) --> MBedder(1 знак., 14.12.2022 20:08, ссылка)
- ни фига на понимаю, клинопись какая-то :-) - SciFi(13.12.2022 19:16)
- Во всяком случае ваше математическое кунг-фу лучше моего сейчас. - Dingo(13.12.2022 13:01)
- Нигде не подсматривал, сам придумал! Пойду выпишу себе
математическую премию :-) - SciFi(13.12.2022 12:58)
- Правильно рассуждаю? x ~= y * 2^32/12M, dx = 358-(2^32/12M), далее
сравниваем dx/358 с величинами 1/(2^n). Школьная арифметика
необходимое, но не достаточное условие ведь! Вот я и интересуюсь,
где подсмотрели? - Dingo(13.12.2022 12:55 - 12:58)