Но к VREF папряжение не должно подключаться НИКОГДА! Там только конденсатор должен стоять. Даже, если вы используете в качестве референса питание, то это не значит, что его надо подавать на VREF. В последнем случае оно поступает от AVCC внутри МК. Поэтому вы (возможно) запороли контроллер не неверным программированием, а опять же неправильным его включением в схему.