ПЗУ было и без полупроводников (и не только на сердечниках), регистр можно на реле. Кажется, на geektimes была статья, один чудик изобретал гидравлические логические компоненты. Вроде в СССР был набор типовых пневматических логических элементов. https://ru.wikipedia.org/wiki/Память_на_магнитных_сердечниках