Схожая задача была. Передавал единицы мегабайт за раз. dsPIC33EP. RTS/CTS с Silabs CP2102 терял байты. DMA не осилил, приём-передачу обрабатывал в прерываниях с кольцевыми буферами. Отказался от аппаратного RTS/CTS, поставил прерывание на вход управления потоком и им разрешал/останавливал передачу. Получилось. Заработало стабильно.