caxapa.ru :: С таким подходом численные методы обычно не сходятся! :-))

_volkanaft_ (04.05.2026 22:53, просмотров: 183) ответил Boвa на Примерно 3/4х1Е-7.

С таким подходом численные методы обычно не сходятся! :-))

Ответить

- Дочка третьеклассница спрашивает у отца инженера-электронщика Boвa(309 знак., 05.05.2026 21:10)
  - Учительница - сука. За ошибку в один процент сразу двойку! - Kpoк(06.05.2026 15:36)
  - Плохие отцы - случаются. Этот - даже до уровня доктора наук не дотягивает: - !Neofit(1 знак., 06.05.2026 15:34, ссылка)
  - Схемы как раз делают так, чтобы +100-50 не сказывалось на стабильности схемы! :-) _volkanaft_(103 знак., 06.05.2026 09:21)
    - Да! если действительное значение h21 будет -50% - начальнику ОТК жопу взгреют! :-) _volkanaft_(132 знак., 06.05.2026 09:27)
    - Это от бедности. Так-то бывают и 16-разрядные АЦП с какой-то дикой точностью. - SciFi(06.05.2026 09:24)
      - И чего? Именно во входных цепях этих АЦП стоят ОУ с погрешностью Кu в100% :-) _volkanaft_(65 знак., 06.05.2026 09:33)
        
        ХЗ у меня в приборах, измеряющих сигнал термопары типа К, диапазон 1000 градусов и погрешность не более 1 градуса на всём диапазоне. Это если подавать с эталона-калибратора, а реальная термопара конечно врёт больше, ибо несовершенна. Датчик холодного спая +- 0.1 градус погрешность. И всё недорого, всё достаточно ширпотребное, доступное к покупке в наличии в РФ. - Ralex(06.05.2026 15:46)
        
        Повторяю ещё раз. _volkanaft_(391 знак., 06.05.2026 22:26)
      - Попадался даже 32-х разрядный. У AD, кажется, было такое поделие для сейсмологов и прочих загадочных товарищей. - Бapбoc(06.05.2026 09:27)
        
        АК, наверное - Kpoк(06.05.2026 09:50)
        
        Нету там честных 32 разряда. - _volkanaft_(06.05.2026 09:34)
        
        Не вникал, но впечатлился. - Бapбoc(06.05.2026 09:38)
        
        Работал с 24-х разрядными - 1ppm (20 честных разрядов) можно вытащить. - _volkanaft_(06.05.2026 09:44)
        
        А есть ли какая-нибудь статистика зависимости кода от входной величины? Kpoк(184 знак., 08.05.2026 10:07)
        
        Вот когда у меня был АЦП 10 бит, приходилось измеряемый сигнал масштабировать, чтобы вогнать в диапазон. А когда 24 бита (19 без шума), тогда датчики цепляем прямо на вход АЦП. И разрешение на пару порядков выше, и лишних МС с их питаловом нет. - Бapбoc(06.05.2026 10:01)
  - этого не может быть. Если папа на лог. линейке считал, то событие лет 40+ назад было. А в те годы любой инженер такие числа в уме умножал. - Лaгyнoв(06.05.2026 09:09)
    - ну да, 430 + 86 - Ralex(06.05.2026 15:50)
      - 5.30 + плавленный сырок. - Boвa(06.05.2026 20:44)
    - Как обычно, ты неправ. У меня отец на линейке считал или изредка столбиком, а расчеты техпроцесов химических это сплошная теплотехника и гидродинамика с тьмой формул и таблиц. - Andreas(06.05.2026 09:19)
      - еще раз. Речь конкретно про умножение этих целых двузначных чисел. 12 и 43. 12.7 умножить на 4,39 - да, конечно на линейке. А с целыми? К 430 прибавить 86 - какие проблемы? - Лaгyнoв(06.05.2026 09:51)
        
        Мой сынуля в пятом классе такое умеет. Но его губит неуверенность, прежде чем сказать вслух или написать, он сто раз про себя этот пример решит. Весь в папу. - Бapбoc(06.05.2026 10:04)
        
        "любой инженер такие числа в уме умножал" - я пример инженера привел, который старался в уме не считать, а расчетами он всю жизнь занимался. - Andreas(06.05.2026 10:01)
        
        ну любой имеет право - как я ему могу запретить? Такой человек - Лaгyнoв(06.05.2026 13:08)

О смысле всего сущего