Корреляция и герцель дают фильтрацию всего лишь 2-го порядка. Однобитовое представление сигнала только внесет больший шум в сигнал.
Вам скорее нужен хороший добротный полосовой цифровой фильтр большого порядка без возбуждения и переполнений.
Легче всего такой сделать на проце поддерживающем умножение типов double.