А... не могу в "розовом" режиме ответить "розовому"... Я-бы порекомендовал прошерстить DS по следующим направлениям:
1. "Settling Time Requirements" и вообще по "settling" в разделе АЦП.
2. Подключение вывода AGND.
3. Приписка к аналоговому коммутатору на стр. 87:
Important note about ADC0 input configuration: Port pins selected as ADC0 inputs should be configured as analog inputs, and should be skipped by the crossbar. To configure a Port pin for analog input, set to 0 the corresponding bit in register PnMDIN and disable the digital driver (PnMDOUT = 0 and Port Latch = 1). To force the crossbar to skip a Port pin, set to 1 the corresponding bit in register PnSKIP.