А какая память? Если BSS или стек то настройки линкера а если куча то я вот такой патент видел. Если в данный момент хотим определить размер доступной памяти то ставим критическую секцию и методом половинного приближения пробуем выделять и http://cpp.sh/5pjo3 освобождать память. Но проблема скорей всего не в этом.