-
- Если ничего не поможет и точность не улучшится, попробуй промасштабировать входные данные - tictoc(17.01.2007 14:45,
)
- и вообще, для контроллеров лучше использовать числа с фиксированной точкой - tictoc(17.01.2007 14:46,
)
- Чего это вдруг? ;О) Помножить 2 24-битных числа и сложить експоненты полюбому быстрее, чем помножить 32 или 48-64 разрядные. - =mse=(17.01.2007 14:52,
)
- 1) Вообще-то, выполнение даже простейшей операции с числами с плавающей точкой занимает несколько сотен тактов. tictoc(170 знак., 17.01.2007 15:08,
)
- Ви, таки, будете мне рассказывать про плаваюсчую арифметику? ;О) Молодой человек, расскажите неграмотному, чем отличается умножение плывучее от целочисленного? В процессе ответа перед вами откроецца смысл есть ли жизни на Марсе. ;О) Может быть... - =mse=(17.01.2007 15:15,
)
- Подозреваю, что нарвался на "гуру" в "плаваюсчуей" арифметике - tictoc(17.01.2007 15:24,
)
- Очень правильные подозрения. Жаль только, что они не возникли ДО пердыша в воду про 128-битное умножение. Дык, что, я, таки, не дождусь откровения про разниццу плывучки и целкочисленности? Кроме как "сотни тактов"...Очень жаль... - =mse=(17.01.2007 15:31,
)
- Ну так объясните Вы мне, раз такой гуру - tictoc(17.01.2007 15:44,
)
- Ну так объясните Вы мне, раз такой гуру - tictoc(17.01.2007 15:44,
- Очень правильные подозрения. Жаль только, что они не возникли ДО пердыша в воду про 128-битное умножение. Дык, что, я, таки, не дождусь откровения про разниццу плывучки и целкочисленности? Кроме как "сотни тактов"...Очень жаль... - =mse=(17.01.2007 15:31,
- Подозреваю, что нарвался на "гуру" в "плаваюсчуей" арифметике - tictoc(17.01.2007 15:24,
- Ви, таки, будете мне рассказывать про плаваюсчую арифметику? ;О) Молодой человек, расскажите неграмотному, чем отличается умножение плывучее от целочисленного? В процессе ответа перед вами откроецца смысл есть ли жизни на Марсе. ;О) Может быть... - =mse=(17.01.2007 15:15,
- 1) Вообще-то, выполнение даже простейшей операции с числами с плавающей точкой занимает несколько сотен тактов. tictoc(170 знак., 17.01.2007 15:08,
- Во-во, и я сказал то же самое, но не смог подобрать политкорректных выражений :) --> - AVR(17.01.2007 14:51,
, ссылка)
- ИМХО Я думаю, NSerg задал вопрос, что бы ответ получить, а не Ваши "выражения" - tictoc(17.01.2007 15:14,
)
- Индюк тоже думал. Он получил от меня именно ОТВЕТ на вопрос, и к тому же в форме, сберегающей его время и усилия - AVR(17.01.2007 21:51,
)
- +1 - maik-vs(17.01.2007 15:41,
)
- Индюк тоже думал. Он получил от меня именно ОТВЕТ на вопрос, и к тому же в форме, сберегающей его время и усилия - AVR(17.01.2007 21:51,
- ИМХО Я думаю, NSerg задал вопрос, что бы ответ получить, а не Ваши "выражения" - tictoc(17.01.2007 15:14,
- Чего это вдруг? ;О) Помножить 2 24-битных числа и сложить експоненты полюбому быстрее, чем помножить 32 или 48-64 разрядные. - =mse=(17.01.2007 14:52,
- и вообще, для контроллеров лучше использовать числа с фиксированной точкой - tictoc(17.01.2007 14:46,
- ошибка округления в 4м знаке при умножении -- это глюк, скорее всего в библиотеке мат.операций bialix(411 знак., 16.01.2007 18:49,
, ссылка)
- я про математику PSoC ничего не знаю, но у ПИКа есть такой 24-бит флоат, у него точность 4..5 знаков. У PSoC какой флоат применяется? VAI(258 знак., 17.01.2007 07:29,
)
- есть float и double, оба 4-х байтные - NSerg(17.01.2007 08:42,
)
- это уже понятно, что double у вас -- это тот же самый float bialix(172 знак., 17.01.2007 09:07,
)
- это уже понятно, что double у вас -- это тот же самый float bialix(172 знак., 17.01.2007 09:07,
- есть float и double, оба 4-х байтные - NSerg(17.01.2007 08:42,
- я про математику PSoC ничего не знаю, но у ПИКа есть такой 24-бит флоат, у него точность 4..5 знаков. У PSoC какой флоат применяется? VAI(258 знак., 17.01.2007 07:29,
- А как Вы это обнаруживаете? - Bill(16.01.2007 16:35,
)
- с помощью отладчика. сравниваю результаты микроконтроллера с моделью на компе - NSerg(17.01.2007 06:01,
)
- а вы случайно библиотек экзотических никаких не применяете? -=Max=-(105 знак., 17.01.2007 16:38,
)
- а вы случайно библиотек экзотических никаких не применяете? -=Max=-(105 знак., 17.01.2007 16:38,
- с помощью отладчика. сравниваю результаты микроконтроллера с моделью на компе - NSerg(17.01.2007 06:01,
- Если ничего не поможет и точность не улучшится, попробуй промасштабировать входные данные - tictoc(17.01.2007 14:45,