Xilinx+Modelsim требует компиляцию библиотек прямо из среды Xilinx. Библиотеки генерятся на конкретный тип ПЛИС и симулятор
У меня Modelsim завалился. 10 летняя лицензия таблетки кончилась.
Пробовал установить поновее, сейчас он QuestaSim - не поборол, бросил.
Так как, пока проектов для поддержки или корректировки нет.