ВходНаше всё Теги codebook 无线电组件 Поиск Опросы Закон Суббота
21 ноября
1612721 Топик полностью
Бoмж (Вчера, 20:37, просмотров: 73) ответил 3m на Затраты на иишечку или "Давайте посчитаем, уважаемые кроты".
Коллеги, это просто охренеть! Только что скачал эту модель, запустил на Unsloth на моей уже весьма устаревшей RTX 2080 SUPER и охренел. Она работает с такой скоростью, просто атас!!! Рекомендую!!! 

Ключевые фишки — четыре:

1. Настоящий отказ от нравоучений: Heretic убирает выравнивание, пишет реверс-скрипты, анализ безопасности, литературное творчество — полная свобода

2. Бьет выше веса: ARC-C 0.57 → 0.64, 7 бенчмарков обходит оригинальную 27B (старые бенчмарки, для справки)

3. Скорость выросла на 40%+: упрощенная цепочка мыслей + поддержка MTP, на 5090 в Q4 реально с 130 до 185+ токенов/с

4. Дружелюбна к потребительскому железу: Q4 всего 6.5–7 ГБ, с 8 ГБ видеопамяти на малом контексте запускается напрямую, ноутбук с 16 ГБ RAM тянет в LM Studio без проблем

Достало нравоучение от облачных моделей — скачивай и разворачивай локально


https://huggingface.co/DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF


memento mori