Кароч...Ударился в блуд. Тут на днях вышла Qwen3.8-Flash-Next . 125В параметров. квант 4, со всем фаршем, 111гб.
На 128Г ОЗУ и 16 видео, шевелится боле-мене, под 10т/с. Но окно никакое, 8к. Расширять просто не получается, перестаёт грузится модель, а лезть в кишки, всё равно система занята только собой, смысла нет. Но в самой модели, смысл есть. Ответы лаконичные и только по делу. На всякие побочки не отвлекается, как более ранние версии, дажэ продвинутые, под 85Г параметров. Её переработали очень кардинально именно под сохранение контекста. Так что, по факту, эти 10т/с эквивалентны по времени, тем-жэ 30т/с на старых моделях. Стал кочять более сжатые варианты. Вариант UD-IQ3_XXS, ИМХО, оптимален: всего 80Гб, но качество не потерял, по крайней мере, я не заметил на своих тестовых заданиях. И скорость подросла, 16т/с на окне 140к. ближэ к 100+к, падает до 10т/с. У кого есть 128Г ОЗУ, особенно ДДР4/5, это будет имба. В этой модели дажэ размер видео не так важэн, как скорость ОЗУ. Но и видео нужно, да...
mse homjak (Сегодня, 00:02, просмотров: 29) ответил mse homjak на Чё, бдь, довы@бывались? Жэлезный трахтур, таки пришол. Таки,
посмотрим, во чо это выльеца. Предыстория...