Коллеги, это просто охренеть! Только что скачал эту модель,
запустил на Unsloth на моей уже весьма устаревшей RTX 2080 SUPER и
охренел. Она работает с такой скоростью, просто атас!!!
Рекомендую!!! Ключевые фишки — четыре:
1. Настоящий отказ от нравоучений: Heretic убирает выравнивание, пишет реверс-скрипты, анализ безопасности, литературное творчество — полная свобода
2. Бьет выше веса: ARC-C 0.57 → 0.64, 7 бенчмарков обходит оригинальную 27B (старые бенчмарки, для справки)
3. Скорость выросла на 40%+: упрощенная цепочка мыслей + поддержка MTP, на 5090 в Q4 реально с 130 до 185+ токенов/с
4. Дружелюбна к потребительскому железу: Q4 всего 6.5–7 ГБ, с 8 ГБ видеопамяти на малом контексте запускается напрямую, ноутбук с 16 ГБ RAM тянет в LM Studio без проблем
Достало нравоучение от облачных моделей — скачивай и разворачивай локально
https://huggingface.co/DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF
