Подаете на вход фильтра синусоиду, по выходу делаете дискретное преобразование Фурье на этой же частоте/фазе. Нелинейности не покажет, но в общем картину даст.