Оно не совсем так и в двух словах не расскажешь (а многое и не
выходило на публику). Там, все-таки, была совместная разработка и в
ядре полуоса копирайты от обоих стоят. IBM, как железячная
компания, хотела продавать СВОИ железяки и поддержка всякого
стороннего им была до лампочки. Microsoft, как софтверная компания,
хотела продавать софт и поддержка сторонних железок была для них
принципиальна. Из-за чего между ними постоянно возникали склоки,
которые достигли апофеоза ко времени OS/2 1.3. Мелкософт считали, что Intel286 пора закопать и пилить 32-битку для захвата мирового господства. У IBM была куча жирных клиентов с контрактами на поддержку 286. Что, собственно и послужило причиной разрыва. Мелкософт отправился пилить Win95, IBM принялась пилить OS/2 2.0. Ядро даже OS/2 4.0 - дикая смесь 16 и 32-битного ASM и C кода, требует для сборки двух разных ассемблеров, двух компиляторов (строго определенных версий) и стопки спецуевых тулзов. Состоит из костылей чуть менее чем полностью и как оно работает - тайна великая есть.
Библия (и Камасутра) полуосных программистов.
https://www.amazon.com/Design-Deitel-Harvey-Michael-Hardcover/dp/B011DB8ST4
С разрешения авторов выложена в PDF
https://www.os2site.com/sw/info/design_of_os2.pdf