Вообще причина может и хитрее конечно быть, это не гарантия такой
схемы. Но общая схема такова, первопричина именно в "удаленном
мультикасте" и скорее всего чтобы отрубить такое поведение девайс
на твоем enc28j60 должен как-то отреагировать что он не заинтересован получать мутикаст пакет. Вероятно это отрубит переключение. "Неуправляемый" это для человека, это не "хаб", который просто электрически дупит пакеты. Ты прав, про обратный обмен на Layer II я не слыхал (чуть не проглючил с ARP, я конечно понимаю что он подразумевает IP у девайса, но просто у меня лежал KSZ воткнутый в порт и шел ARP обмен. Это не switch у меня походу а MAC его автоматом поддерживал). Все интереснее может быть в том смысле что инициатором перехода на 10мбит выступает не enc28j60 и не неуправляемый свитч, а сам же источник мультикаста (типа не договорились, вот вам на 10 тогда). Но это фантазии. Надо взять WireShark и посмотреть что происходит.
Еще посмотри сюда:
https://ru.wikipedia.org/wiki/IGMP_snooping