Двоичное объединение координат - полная ерунда : Например возьмем точку с координатами 1000:1000. Объединение даст 11000000.
А теперь сравним её с точками:
A = 0111:0111 -> 00111111
B = 1010:1010 -> 11001100
Очевидно, что ошибочно выберется т.В (хотя до неё расстояние в 2 раза больше, чем до т.А)
PS задача слишком расплывчата