Средства и методы разработки

Ваш пример бездоказателен: Во-первых, неочевидно, что обратная матрица вычислена вами с абсолютной точностью, а потому погрешность воспроизведения единичной матрицы путем умножения прямой и обратной матриц неправомерно списывать только на ошибки умножения. Во-вторых, погрешность следует оценивать не на погляд, а вычислять "невязку", т.е. сумму квадратов внедиагональных элементов этого произведения, и уже эти суммы сравнивать между собой. В-третьих, погрешность во внедиагональных элементах у вас как раз на уровне последнего знака мантиссы long double, а это очень хороший результат - более высокая точность невозможна даже теоретически.