USSR (04.06.2012 16:47, просмотров: 1) ответил Ксения на Чтобы матрицы считать! Потеря точности происходит, когда много мелких слагаемых прибавляются к большому. При короткой мантиссе мелкие слагаемые игнорируются, хотя в сумме могли бы составить заметную величину. Проблема могла бы решиться, если-
- "80-bit double" любой комп тянет, т.к. это один из родных типов старого FPU, тогда как SSE так не умеет. Проблема с 80-ти битами другая - числа не выравнивается по границе 32/64 байта, из-за чего MS Visual C этот тип данных не поддерживает. А Ксения(42 знак., 04.06.2012 16:55)
- gcc не спасёт? - Mahagam(04.06.2012 16:57)
- Не в компиляторе дело, тем более что я на ассемблере скалярные произведения считаю. Ошибка нарастает при длинных векторах. До какой-то величины сумма накапливается, а после новые слагаемые игнорит. По идее хорошо было бы не всё в одном сумматоре Ксения(396 знак., 04.06.2012 17:08)
- Что вы там за велосипеды на ассемблере изобретаете? Гцц с флоат128 даёт честные 112разрядов мантиссы. И вся математика под этот тип есть. - quadmath(04.06.2012 23:21,
)
- GCC лишь эмулирует 128-битную арифметику, а я мечтаю об аппаратной. - Ксения(05.06.2012 01:19)
- Тогда от 6 штук $ без налогов в US всё удовольствие. - power7(05.06.2012 03:20, )
- Тогда от 6 штук $ без налогов в US всё удовольствие. - power7(05.06.2012 03:20,
- GCC лишь эмулирует 128-битную арифметику, а я мечтаю об аппаратной. - Ксения(05.06.2012 01:19)
- In addition, the size of a "long double" also varies by operating system. On Windows, the size is 8 bytes by default. On Linux or Mac OS X, 10 bytes are used for the representation of a long double, although the allocated size may be USSR(482 знак., 04.06.2012 17:19,
)
- Что вы там за велосипеды на ассемблере изобретаете? Гцц с флоат128 даёт честные 112разрядов мантиссы. И вся математика под этот тип есть. - quadmath(04.06.2012 23:21,
- Не в компиляторе дело, тем более что я на ассемблере скалярные произведения считаю. Ошибка нарастает при длинных векторах. До какой-то величины сумма накапливается, а после новые слагаемые игнорит. По идее хорошо было бы не всё в одном сумматоре Ксения(396 знак., 04.06.2012 17:08)
- gcc не спасёт? - Mahagam(04.06.2012 16:57)
- "80-bit double" любой комп тянет, т.к. это один из родных типов старого FPU, тогда как SSE так не умеет. Проблема с 80-ти битами другая - числа не выравнивается по границе 32/64 байта, из-за чего MS Visual C этот тип данных не поддерживает. А Ксения(42 знак., 04.06.2012 16:55)