Всем спасибо за подсказки, проблема решилась, линк появился, можно
двигаться дальше. Оказалось, что я не разобрался с тактированием. Я предположил что мне надо с процессора 50МГц подавать на LAN8720 (кварц 25МГц подключен к процессору, умножители и делители позволяют вывести 50МГц на выход). Но там у LAN8720 выбран режим, при котором ей на вход идет 25МГц, а она формирует 50МГц для тактирования МАС в процессоре. Перестроил частоту на выходе и линк образовался, даже ping сразу (используя только галочки в кубе) заработал.