Для экономичного режима частота указана до 16 МГц. Для режима полной амплитуды (CKSEL=0111) - до 20(24) МГц. И для начала желательно SUT=11. Конденсаторы, надеюсь, ТКЕ 0%. Разводка кварца тоже стОит посмотреть внимательнее. Кварц на 14 м.б. плохим, либо конденсаторы для него не подходят.