Дам еще один совет, такой же сложный и бесполезный как про SDK)) Есть неплохая книжка Programming Microsoft Windows CE, Douglas Boling. С ней прилично примеров, такого уровня вопросы она снимет. Там есть и глава по COM. Может найдется на просторах для скачки, есть в виде электронной книги, сам обзавелся живьем. Но букв в ней много.
У вас скорее всего не хватает или "L" или ":", типа L"COM1:", и не уверен в FILE_ATTRIBUTE_NORMAL. У меня работало (аналогично Гудвину):
wsprintf(czCOM,TEXT("COM%1d:"), n);
hPort = CreateFile(czCOM, GENERIC_READ|GENERIC_WRITE, 0, NULL, OPEN_EXISTING, 0, NULL );
Или просто напутано, в написанном параметров не хватает и не тот порядок
hFile = CreateFile( "Com1", GENERIC_READ|GENERIC_WRITE, NULL, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, 0);