Можете попробовать LZ78 или LZW врукопашную сделать - там несильно сложно и хип не нужен. память нужна только на буфера и на словарь. я помнится делал такое: словарь был 4К 12-битных слов - не так и много. можно и меньше словарь, но тогда совсем погано жмет. вся работа с отладкой (а там баг в алгоритме есть - не сразу нашел инфу по нему) заняла дня два.