caxapa.ru :: Нельзя - программист станет лихорадочно вычислять реальное значение, наткнется на ошибки округления float, и станет орать, что полученное 0.000003 ома внесут ужасные погрешности в его эпохальное железо с 8-битным АЦП и 10% резисторами

MBedder^{терминатор} (13.02.2010 13:38, просмотров: 172) ответил koyodza на слово "равно" заменить на "стремится". Насчёт программистов - согласен

Нельзя - программист станет лихорадочно вычислять реальное значение, наткнется на ошибки округления float, и станет орать, что полученное 0.000003 ома внесут ужасные погрешности в его эпохальное железо с 8-битным АЦП и 10% резисторами

Ответить

- АЦП 10-битный.... codersys(64 знак., 13.02.2010 20:47)
- я учусь и работаю java-программистом.... но кроме учёбы в универе....есть законченный мною техникум по специальности электроника и автоматика. Бывший радиолюбитель..... но у памяти есть свойство забывать ... особенно если радикально изменил поле codersys(19 знак., 13.02.2010 20:43)
  - а Вы всё-таки почитайте по ссылкам в моём сообщении чуть выше, и постарайтесь понять koyodza(162 знак., 13.02.2010 20:51)
- если до этого дойдёт, то не всё потеряно. Большинство ограничится применением float, или заменой float на double. А про точность резисторов вообще вспомнят только избранные ;=) - koyodza(13.02.2010 13:40)
  - ну что тут скажешь.....Петросян ;=)))!!! - codersys(13.02.2010 20:37)

Схемы, платы, компоненты