С ремапом палитры всё просто. У тебя был режим 1024x768 для
которого нужно при палитровом (байт на точку) цвете 768 килобайт. А
в те времена памяти у видеокарты был как раз мегабайт. 1024x768 и
RGB 5:6:5 (2 байта на точку) не потянул бы. А палитра могла быть
либо общая (но тогда JPEG хрен покажешь), либо у программы (окна)
своя собственная. В итоге курсор наводишь на окно -- в нём всё
правильно, а в части других зато все цвета съехали. Если бы
поставил 800x600 то для 16-битного цвета мегабайта хватило бы и без "глюков" с палитрой.
PS: для VNC с 16-битным цветом 800x600 нужен всё тот же мегабайт под видепамять и ещё меньше десятка под всё графическое (X11 сервер, сам VNC-сервер, оконный менеджер), если без излишеств.