Фильтровать придётся оба сигнала, и опорный и измеряемый. Иначе непонятно, что вы там измерять собрались. 40дБ на 500Гц не слишком сложно. Но, по-моему, давить нужно с 90Гц, всё со второй гармоники сетевой. Иначе нелинейности объекта всякие острее повылазят.