caxapa.ru :: вроде бы написано qwen3-coder-30b-a3b-instruct. Она есть в Q3 и в Q4, но вагон лайков и скачиваний на той что Q4, ясен пень.

ASDFS^USB-гуру (23.07.2026 15:49, просмотров: 294) ответил ЧaтЖПT на Как точно называется модель? Какое квантование и размер файла?

вроде бы написано qwen3-coder-30b-a3b-instruct. Она есть в Q3 и в Q4, но вагон лайков и скачиваний на той что Q4, ясен пень.

Она довольно старая и я ее из за этого пропустил. Ща поставил на закачку, пощупаю на своем тетрис-тесте.

Ответить

- Пощупал. ASDFS(461 знак., 24.07.2026 12:01)
  - ХЗ. Мне он сказал, что контекст 32к и больше никак. - mse homjak(24.07.2026 18:14)
    - Может ОЗУ кончилась? Скинь GPU ofload на единичку-две и посмотри сколько лезет. - ASDFS(25.07.2026 17:15)
      - Разобрался. То было по умолчанию. Окно контента зависит больше от объёма ОЗУ. Щас добил до 40Г и у всех моделей размером до 30Г можно поставить 256к, просто таская ползунки в ЛмСтудии. mse homjak(884 знак., 25.07.2026 17:57)
        
        Где такие набрал? Hugging Face их не знает - ASDFS(25.07.2026 19:11)
        
        там иерархическая структура ищеш, например, Qwen3-Coder-Next. Он вываливает, что нашёл. Тыкаешь, например в Qwen3-Coder-Next-GGUF, открывается страница этой модели. И, под графиком загрузок,вываливают ггуфы Кодера Некст с разной квантизацией, разного кол-ва параметров(наверное). mse homjak(183 знак., 25.07.2026 21:02)
        
        думал у фейса поиск по всем работает а не только по корням - ASDFS(25.07.2026 21:07)
        
        Да там, под каждым корнем, можэт штук по 20-30 квантизаций быть. Утонуть можно. - mse homjak(25.07.2026 21:10)
        
        Кстате, Qwen3-Coder-Next-UD-IQ2_M из всего пробованного, показал себя наиболее сбалансированно. Он и в фильтры на "Ц" сумел, и на Верилоге сразу дал решение, которое из Kwaipilot_KAT-Coder-V2.5-Dev-Q5_K_S пришлось выморачивать. Щас пытаюсь скочять Qwen3-Coder-Next на 35Г, чую, будет поумнее. Но это не точно. - mse homjak(25.07.2026 21:06)
        
        Прикол... Тестирую модельки верилогом. Квайпейлот не прохавал один сигнальчик. И, типа, "Алярм", надо исправлять. Ну да, рабочий код, щас кинусь, роняя кал. Гружу Квен. Она мне, то-жэ самое..."Вы чо, угораете? Какая дурка?" Гружу другую Квен. Похрен. Проверяю Кватрусом, всё ок. Потом, догадался почистить окно. Всё ок! Они, сука, списывают друг у друга! - mse homjak(26.07.2026 11:26)
  - Говорят UD-Q4_K_XL заметно лучше, чем классическое Q4_K_M при том же объеме. У меня никак не скачается. То час, то два осталось ... - ЧaтЖПT(24.07.2026 14:36, )

Средства и методы разработки