SciFi (03.01.2024 21:29, просмотров: 62) ответил IBAH на Все косячат! даже ИАР! Написал корень квадратный в целых, запустил
тест, сравниваю с sqrtf(); Расхождения начинаются с числа
16785407(0х1001FFF), sqrtf() округляет результат в плюс, проверял
на калькуляторе. На double sqrt() расхождений нет.ส็็็็็็็็็็็็็็็็็็็็็็็็็༼ ຈل͜ຈ༽ส้้้้้้้้้้้้้้้้้้้้้้้
-
- кругом враги, даже в мантиссе! Почему в плюс округляет?, по всем
законам в должно быть в минус. Приближение как правило идет от
меньшего - IBAH(03.01.2024 21:41)
- округление идёт, как правило, путём прибавления "1" в позицыю "LSB
результата-1". А потом, усечение сдвигом или ещо чем. - mse homjak(04.01.2024 00:21)
- Как много интересного об округлении чисел узнает советский школьник
от сишников - Kpoк(04.01.2024 11:06)
- От сишников он нихера не узнает. От АСМатиков! - mse homjak(04.01.2024 15:00)
- АСМатики херни не сочиняют. - Kpoк(04.01.2024 15:18)
- Ха! Подержите моё пиво!!! - mse homjak(04.01.2024 16:57)
- АСМатики херни не сочиняют. - Kpoк(04.01.2024 15:18)
- От сишников он нихера не узнает. От АСМатиков! - mse homjak(04.01.2024 15:00)
- Как много интересного об округлении чисел узнает советский школьник
от сишников - Kpoк(04.01.2024 11:06)
- округление идёт, как правило, путём прибавления "1" в позицыю "LSB
результата-1". А потом, усечение сдвигом или ещо чем. - mse homjak(04.01.2024 00:21)
- кругом враги, даже в мантиссе! Почему в плюс округляет?, по всем
законам в должно быть в минус. Приближение как правило идет от
меньшего - IBAH(03.01.2024 21:41)