Возьмём для примера ebay.com. Явно впахивают куча серверов. Но когда есть куча, у каждого своя РАМа и каждому индивидуально нет нужды иметь много. (САм себе и ответил).
Напрашивается уже предложенный прежде вариант-дробление БД. Архивы ,к примеру, народ часто делит на тома.