Чувак в концэ пишет про Qwen 3.8 Flash Next 125B. Прелесть в том,
что она(на уровне рассудждений "медиум"), при проработанном и
подробном промпте, выдаёт результат с первого раза. Когда её-жэ
просишь проверить(в отдельном окне), может найти несколько
стилистических ошибок. Это всё, минут за 5-10(при результирующих
~10т/с). Агенты, которые крутились на ней-жэ, часами гоняли одни и
те-жэ ошибки по кругу, тонули в контенте и, в концэ концов,
вылетали по переполнению окна и прочим аварийным ситуациям.
mse homjak (Сегодня, 16:10, просмотров: 26) ответил Nikolay_Po на На Хабре вышла статья: 125 токенов в секунду на RTX 4070 Ti SUPER:
как я заставил локальную LLM работать полноценным кодинг-агентом