Первичную регулировку VRAM делаю параметром GPU offload и размером
контекста. Далеко не всегда система автоматом загоняет утилизацию VRAM под плешку.
На английском еще норм, веселее на китайском и еще переводить не умеют - таких дообученных нынче немало, экономят на языках. Да чего там локалки, онлайн дипсик уже периодически отвечает иероглифами, но хотя бы переводит.