ARM, RISC-V контроллеры

Только причём здесь возвращение результата? В линуксе и в винде вызываются функции ядра, например open(). Вот они и возвращают результат. А внутри функции аргументы раскладываются в нужные регистры, вызывается прерывание, регистры раскладываются в результат и делается return. Из прерывания. А функцию обработки прерывания напрямую никто не вызывает, вызывается INT 0x80. И без ассемблера здесь сложно обойтись. Обработчик прерывания и функция-обёртка (open()) могут компилироваться разными компиляторами с разными опциями. Да и frame pointer другой всяко.