Да, InfiniBand -> дает латентность 100-200 нс, а латентность полного обмена сообщениями - поядка 1 мкс. Да, там можно этот самый 1м тактов /сек обеспечить. http://en.wikipedia.org/wiki/InfiniBand Выход один - синхронизироваться не каждый такт, в по мере возникновения взаимного влияния. Так можно многое сэкономить.