перекомпиляция невозможна пока API сильно различается. вопрос времени. патенты и свой компилер жутко сужают орды разработчиков = застой в приложениях = отток хомячков = иссякание потоков бабла.
любая прослойка должна быть универсальной. это её слабое место. а так прикрутят к армам VLIW-прибамбас, подобный SSExxx или AVX какому, и птичка в компиляторе даст ускорение и на арме и на x86. и JIT тут ничего поделать не сможет.