caxapa.ru :: Даблы происходят из задачи. Источники входных данных бывают разные... Синглов точно не хватает, портится качество результата (чаще вообще хрень получается). Проверяли.

Evgeny_CD, Архитектор (26.07.2016 22:38, просмотров: 869) ответил Крок на Откуда происходят даблы? Ведь наши датчики генерят сигнал весьма ограниченного динамического диапазона?

Даблы происходят из задачи. Источники входных данных бывают разные... Синглов точно не хватает, портится качество результата (чаще вообще хрень получается). Проверяли.

Ответить

- а алгоритм обработки подправить? - Mahagam(27.07.2016 00:03)
  - Попробуйте инвертировать матрицу, используя только целочисленную арифметику - у вас ничего не выйдет. Точно так же в целых числах не решаются системы линейных уравнений. - Ксения(27.07.2016 00:06)
    - 1) Матрица в "целых" числах оборачивается точно так же. Нужно просто вспомнить забытый формат "с фиксированной точкой". 2) Я не зря пытал Евгения про задачи, но сказалась выучка первого отдела - он ответил уклончиво. Наши приборы тоже изредка Крок(170 знак., 27.07.2016 10:52)
  - Нам не удалось. И никому из наших конкурентов тоже. Только даблы. - Evgeny_CD(27.07.2016 00:04)
- Ну про синглы мне не надо объяснять. Я ими ещё не ЕС-машинах наелся. Но длинный целый, мне казалось, спасает отцов русской демократии. - Крок(26.07.2016 22:42)
  - Большой динамический диапазон на всех этапах обработки. - Evgeny_CD(26.07.2016 22:44)

Средства и методы разработки