Не знаю, оптимизированный или нет. В 2005г Атмел выложил апнот AVR230 DES Bootloader. Сейчас его на сайте микрочипа нет. Насчёт медленного контроллера - ни разу не было такого, чтобы скорости контроллера не хватало. Всегда узким местом является что-то другое: или внешняя флеш, или медленное шифрование на старых атмегах, или медленный УАРТ.
Сейчас замерил на компе:
3DES аппаратное шифрование 100КБ на ATXmega128A1 29MHz - 2 сек
3DES програмное шифрование 100КБ на Core i3-3220 3300MHz - 25 сек