В подобных случаях, я смещаю выход ЦАП в минус - резистивный
делитель с выхода на минус стабилизированного питания или
отрицательный ИОН, хотя бы в виде TL431I. И использую не весь
диапазон АЦП от нуля, а с фактического нуля после делителя. Чтобы
не получить такую нелинейность у не контролируемого нуля, как у
Вас. И да, вполне может помочь подтяжка выхода ЦАП, даже не к нулю, а к минусу питания, если нелинейность именно на выходе ЦАПа, а не внутри.