ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Четверг
30 января
182076 Топик полностью
МПП-ARM (18.02.2010 14:42, просмотров: 267) ответил Mahagam на какой физический смысл такой точности - я не представляю.
Скалярное произведение падает :) Надо считать скалярное произведение и ортогонализовать векторы друг к другу. Это сложно, так как сумма 100 миллионов чисел имеет большую ошибку округления, так что точность в даублах составляет только 3-4 знака. Чтобы решалка не падала надо еще 10 знаков про запас. Вот и приходится 4 точность использовать