нет и FullDLib, и CustomDLib с прямым указанием на чуть другие файлы - ничего не меняется.
Осталось подумать над простым проектом и отладчиком.
Ну или еще вариант (но непонятно, почему именно с галкой не работает, без галки - все норм) - это преобразование перед выводом на экран из float (или double, без разницы) в signed int простым присвоением, или с явным преобразованием типа. Еще раз - без галки все работает...