Изучить бессмертное творение многоуважаемого =АК=. Для тех кто не имел дела с ВЧ техникой самое сложное это понять что каждый кусок фольги имеет собственную индуктивность и емкость.Из практических причин глюков подобных вашему чаще всего встречается чрезмерная индуктивность в цепях питания (втч земли) и влияние (наводка через емкостную связь)помех на высокоимпедансные цепи .Обычно это ресет и цепи кварца.На первом этапе борьбы я-бы прокинул шины питания шинкой 1мм поверх печати , поставил блокировочные емкости(10-100n) прямо на ноги (не далее 1мм) чипа.Возможно выбрал-бы "Мекку заземления".Потом перешел к изучению влияния на кварц и PLL.Кстати знаю реальные случаи когда PLL в проце сбоил на некоторых множителях явно из-за наводок.