хммм есть Берем МПЕГ4-10 (h.264) и ставим ему рейт контроль, т.е. пока движения нет, кодируем с высоким квантайзером в IPB моде, как только пошло движение переходим не небольшой квантайзер и I моду.
У с качеством будет все ок, и в битрейт уложимся :)