Мама! Прочитайте про биты COM1A0 и COM1A1. Прерывание тут не нужно. Ваше дерганье FOC1A ничем не быстрее ручного дерганья ногой. Но если вам интересно, почему у вас не работает FOC1A - то обратите внимание на такую фразу в его описании:
The OC1A/OC1B output is changed according to its COM1x1:0 bits setting