ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Воскресенье
5 мая
182076 Топик полностью
МПП-ARM (18.02.2010 14:42, просмотров: 244) ответил Mahagam на какой физический смысл такой точности - я не представляю.
Скалярное произведение падает :) Надо считать скалярное произведение и ортогонализовать векторы друг к другу. Это сложно, так как сумма 100 миллионов чисел имеет большую ошибку округления, так что точность в даублах составляет только 3-4 знака. Чтобы решалка не падала надо еще 10 знаков про запас. Вот и приходится 4 точность использовать