Скорее всего сердечник греется.
Зазор рассчитали?
Вот по этой книжке давно делал БП (правда маломощный) - нормально работало.
https://www.elec.ru/library/nauchnaya-i-tehnicheskaya-literatura/silovaya-elektronika/