caxapa.ru :: Все косячат! даже ИАР! Написал корень квадратный в целых, запустил тест, сравниваю с sqrtf(); Расхождения начинаются с числа 16785407(0х1001FFF), sqrtf() округляет результат в плюс, проверял на калькуляторе. На double sqrt() расхождений нет.

IBAH (03.01.2024 21:12, просмотров: 1215)

Все косячат! даже ИАР! Написал корень квадратный в целых, запустил тест, сравниваю с sqrtf(); Расхождения начинаются с числа 16785407(0х1001FFF), sqrtf() округляет результат в плюс, проверял на калькуляторе. На double sqrt() расхождений нет.

Ответить

- Внутренний зануда подсказывает, что расхождения должны начаться немного раньше. С первого же 25-разрядного числа. - Kpoк(04.01.2024 12:28)
- То есть виноват яр, а не разрядность мантиссы у float? Ясно-понятно. - SciFi(03.01.2024 21:29)
  - кругом враги, даже в мантиссе! Почему в плюс округляет?, по всем законам в должно быть в минус. Приближение как правило идет от меньшего - IBAH(03.01.2024 21:41)
    - округление идёт, как правило, путём прибавления "1" в позицыю "LSB результата-1". А потом, усечение сдвигом или ещо чем. - mse homjak(04.01.2024 00:21)
      - Как много интересного об округлении чисел узнает советский школьник от сишников - Kpoк(04.01.2024 11:06)
        
        От сишников он нихера не узнает. От АСМатиков! - mse homjak(04.01.2024 15:00)
        
        АСМатики херни не сочиняют. - Kpoк(04.01.2024 15:18)
        
        Ха! Подержите моё пиво!!! - mse homjak(04.01.2024 16:57)

Средства и методы разработки