mr-x (16.12.2013 13:42, просмотров: 43) ответил POV на Взял константы в скобочки и первый из множителей с ".0" поставил. Намана стало.
Тут или умножение в плавучке будет, или если есть приведение к целому, то ошибка округления. Я лично против плавучки в медленных вычислениях ничего не имею, но тут кому как. Ошибку округления можно уменьшить до приемлемого уровня как я писал выше, домножив числитель и знаменатель на, например, (256/20). При этом в знаменателе останется 256, т.е. делить сдвигом. Но 16 бит целого в числителе уже не хватит, надо будет привести константу к (long). В общем или плавучка, или (long), или большая ошибка округления.