Детали в том, что это зависит от версии гцц. Не помню уже где я про это читал, но до 4.<какой то версии> надо было использовать arm-elf-gcc для сборки отдельных программ, например ядра или юбута и arm-linux-gcc для сборки таргетовых линуксовых прог, а после некоторой версии можно пользовать arm-linux-gcc для сборки всего.
https://embedders.org - блоги разработчиков встраиваемых систем.