ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Суббота
21 ноября
1612802 Топик полностью
mse homjak (Сегодня, 20:34, просмотров: 14) ответил DH на у вас 128гб рам и видео 16гб. какую модель максимально удалось протестировать? из постов от вас выше модели очень уж тяжелые
GLM5.3Q2 от Unsloth и Maya. Это самые тяжёлые. 116Гб на квант. Qwen3.8FlashNextQ4 и Q3. Пока не определился, какая лучше. Они 4 ноября выкатили новый Dynamic и Q3 стала почти как старая Q8. И весит не 111Гб, а 90Гб. Ещё пара моделей под Maya. Qwen3.8Flash и GLM5.3. Но тут бяда. Видимо, движок сырой или квантовали Qwen криво или у меня в системе накопилось говна, модель стала сыпаться: работала 25-54т/с(были всплески, в среднем, под 30т/с), а теперь 3-4-5. GLM не пострадала, 

вместо 4-5 под Унслот даёт 8-12 под Maya, как и было. Для задач по кодингу-проверке, хватает. Хотя, хаочется и побыстрее. Но овёс нонче дорог! ;О) как я ещо видяху успел ухватить, она скоро вдвое дорожэ будет.