caxapa.ru :: Откуда происходят даблы? Ведь наши датчики генерят сигнал весьма ограниченного динамического диапазона?

Крок (26.07.2016 22:35, просмотров: 883) ответил Evgeny_CD на Вот конкретно сейчас у нас проект с суровой матричной алгеброй. 120х120 даблов, и таких матриц полтора десятка. LPC4350 уже не успевает. Нужно дешево и очень маленький футпринт. IAR для FPUV3 (ARM926, Cortex-A9) генерит не такой уж и плохой код.

Откуда происходят даблы? Ведь наши датчики генерят сигнал весьма ограниченного динамического диапазона?

Ответить

- Даблы происходят из задачи. Источники входных данных бывают разные... Синглов точно не хватает, портится качество результата (чаще вообще хрень получается). Проверяли. - Evgeny_CD(26.07.2016 22:38)
  - а алгоритм обработки подправить? - Mahagam(27.07.2016 00:03)
    - Попробуйте инвертировать матрицу, используя только целочисленную арифметику - у вас ничего не выйдет. Точно так же в целых числах не решаются системы линейных уравнений. - Ксения(27.07.2016 00:06)
      - 1) Матрица в "целых" числах оборачивается точно так же. Нужно просто вспомнить забытый формат "с фиксированной точкой". 2) Я не зря пытал Евгения про задачи, но сказалась выучка первого отдела - он ответил уклончиво. Наши приборы тоже изредка Крок(170 знак., 27.07.2016 10:52)
    - Нам не удалось. И никому из наших конкурентов тоже. Только даблы. - Evgeny_CD(27.07.2016 00:04)
  - Ну про синглы мне не надо объяснять. Я ими ещё не ЕС-машинах наелся. Но длинный целый, мне казалось, спасает отцов русской демократии. - Крок(26.07.2016 22:42)
    - Большой динамический диапазон на всех этапах обработки. - Evgeny_CD(26.07.2016 22:44)

Средства и методы разработки