caxapa.ru :: Щас скачал вашу версию Qwen. Контекст, 256к(???). Смотрю на параметры системы, пока она мне чота втуляет. У РТХ из 16Г, занято 24%. В ОЗУ она расположила ещо 6Г. И 22Г у неё в РАМ-диске. Система после перезагрузки. Непонятна малая утилизация ВРАМ. И она, чота, сперва буровит у себя в мозгах на англицком, а, потом, переводит на русский.

mse homjak (Вчера, 23:24, просмотров: 43) ответил ASDFS на раз пошла такая пьянка то мой скромный опыт.

Щас скачал вашу версию Qwen. Контекст, 256к(???). Смотрю на параметры системы, пока она мне чота втуляет. У РТХ из 16Г, занято 24%. В ОЗУ она расположила ещо 6Г. И 22Г у неё в РАМ-диске. Система после перезагрузки. Непонятна малая утилизация ВРАМ. И она, чота, сперва буровит у себя в мозгах на англицком, а, потом, переводит на русский.

Ответить

- Первичную регулировку VRAM делаю параметром GPU offload и размером контекста. ASDFS(292 знак., Сегодня, 16:56)
  - Да, в ЛМСтудии подгоняю к 14Г ВРАМ, нормально. - mse homjak(Сегодня, 18:02)

Средства и методы разработки