Вход
Наше всё
Теги
codebook
无线电组件
Поиск
Опросы
Закон
Вторник
22 апреля
О смысле всего сущего
0xFF
Средства и методы разработки
Мобильная и беспроводная связь
Блошиный рынок
Объявления
Микроконтроллеры
PLD, FPGA, DSP
AVR
PIC
ARM, RISC-V
Технологии
Кибернетика, автоматика, протоколы
Схемы, платы, компоненты
Средства и методы разработки
1389673
Топик полностью
Kpoк
(04.01.2024 12:28, просмотров: 60)
ответил
IBAH
на
Все косячат! даже ИАР! Написал корень квадратный в целых, запустил тест, сравниваю с sqrtf(); Расхождения начинаются с числа 16785407(0х1001FFF), sqrtf() округляет результат в плюс, проверял на калькуляторе. На double sqrt() расхождений нет.
Внутренний зануда подсказывает, что расхождения должны начаться немного раньше. С первого же 25-разрядного числа.
Ответить