это смотря что "программировать на линуксе".. если тривиальное консольное приложение или что-то гуевое, то да, под капот смотреть нет смысла..
а вот любой нестандарт, например порулить периферией или самим АРМом в обход ядра, то без знания архитектуры ловить нечего..