Действительно, вот такой код работает:
.include "m8def.inc"
.def temp = r16
ldi temp,(1<<PB1)
out DDRB,temp
loop: ldi temp,(1<<COM1A0) | (1<<COM1A1) | (1<<FOC1A)
out TCCR1A,temp
ldi temp,(1<<COM1A0) | (1<<FOC1A)
out TCCR1A,temp
rjmp loop
Почему у меня в специальном файле помечено, что "FOC не работает в одной команде с настройкой", так и осталось загадкой. Когда-то сталкивался с такими граблями. Но когда и на каком камне - уже не вспомнить.