Судя по этой картинке, выходной дроссель не работает. Режим
прерывистого тока, вместо режима непрерывного тока, когда видна
явная ШИМ. И где-то промахнулись. Думаю, на виток или пол-витка
вторичной обмотки - вывели конец обмотки на выпрямитель не с той
стороны сердечника. В общем, фото трансформатора, платы и чертёж разводки, могли бы прояснить ситуацию. Тут скрывается явный факап.