Как же вы простых вещей не понимаете? Память памятью, а диск диском. Если операционка не поддеживает автоматиский своп, то вам две матрицы друг на дружку не помножить, если они будут только диске лежать, а в память их считывать будет нельзя. Т.е. если каждое умножение будет сводиться к чтению с диска обоих сомножителей и записи произведения на тот же диск, то это гиблое дело.