Делайте полифазный КИХ фильтр на 400 тапов в формате с фиксированной запятой разрядностью 16 бит и коэффициентом децимации равным 50. Этого должно хватить. :) Если, конечно, вам достаточно внеполосного подавления 40 дБ и неравномерности в полосе пропускания 0,4 дБ.