В простейшем случае ничего ось знать не должна. Сама ось компилится статически и модули компилятся вместе с ней статически. Но модули выделяются в отдельные elf файлы. Потом берутся простейшие elf лодеры и они грузят эти модули когда надо, причем могут их даже переместить в памяти.
В худшем случае как с моделью Windows dll ось должна иметь всю инфу о собственных импортируемых символах чтобы проделывать обоюдное связывание.