-
- На Гитхабе есть project-Maya. Чуваки пишут движок для LLM. Но не универсальный, а кастомный, под конкретные LLM. особо хорошо под это подходит Qwen3.8Flash и GLM5.3Flash. На Qwen, скрость на стоковой CMP50HX поднялась с 6-7т/с до 24, иногда, почти 30. Причом, модель не стандартная Q4, а Q5. 113Гб. Грузят хитро, там получается занято 70-80Гб из моих 128. - mse homjak(01.11.2026 12:45)
- Похоже, человечество обречено на прогрессирующее слабоумие. - Argon(29.10.2026 11:51)
- дык, оно, в массе своей, никогда и не блистало особым сильноумием.
А так, составление ТЗ на код кокого-нить поделия, для ИИшэчьки,
вполне сопоставимо по размеру с самим кодом. Ему-то надо чтобы всё
до сопли в носу было понятно. - mse homjak(29.10.2026 13:11)
- А я по себе сужу. Два года назад (а именно с такой периодичностью я сажусь за программизм) напрягал мозги и физически ощущал пампинг конгитивных способностей через неделю работы. А сейчас - нет. Даже промпт полностью подготовить лень, если можно по-бырому накидать хотелки и сказать ИИ - сделай промпт, после чего взять волю в кулак, почитать и слегка откорректировать. GLM 5.3 flash в бесплатном режиме онлайн чата делает все уже практически годным к употреблению. - Argon(29.10.2026 13:16)
- ИИ тут не причем. И без него слишком много отдано на сторону. Ни памяти ни самостоятельной попытки осмысления... POV(139 знак., 29.10.2026 12:19)
- "Идиократия". Гениальная кинолента. - SciFi(29.10.2026 12:18)
- дык, оно, в массе своей, никогда и не блистало особым сильноумием.
А так, составление ТЗ на код кокого-нить поделия, для ИИшэчьки,
вполне сопоставимо по размеру с самим кодом. Ему-то надо чтобы всё
до сопли в носу было понятно. - mse homjak(29.10.2026 13:11)
- В коментах самое интереснре - Oleg12(28.10.2026 22:59,
)
- ХЗ, чо там интересного. Норот меряется
ФПСТ/С, реальных результатов нет. Модели гоняют мелкие и тупенькие. На тупенькой модельке, условных 100т/с, не сравнится с 10т/с у тяжёлой. mse homjak(632 знак., 28.10.2026 23:35)- С большой моделью любой дурак сумеет виндовс написать. Основной
смысл в том чтобы извлечь хоть какуюто пользу из карты на 16 гигов,
которых навалом. - =AlexD=(29.10.2026 14:47)
- CMP50 с 10гб и 4ХПСИЕ, прекрасно работает с моделью на 120г параметров и 111гб размером(правда, ОЗУ 128г и проц 36 потоков, ну то такэ). Да, 5-7т/с. Но результат, хоть применить можно. Кстате, на Гитхабе выложили патч на CMP50,под PCIE2 и разблокировку нутрянки. А 5060@16Г на той-жэ модэли, даёт под 20т/с. - mse homjak(29.10.2026 16:08)
- С большой моделью любой дурак сумеет виндовс написать. Основной
смысл в том чтобы извлечь хоть какуюто пользу из карты на 16 гигов,
которых навалом. - =AlexD=(29.10.2026 14:47)
- ХЗ, чо там интересного. Норот меряется
- Чувак в концэ пишет про Qwen 3.8 Flash Next 125B. Прелесть в том, что она(на уровне рассудждений "медиум"), при проработанном и подробном промпте, выдаёт результат с первого раза. Когда её-жэ просишь проверить(в отдельном окне), может найти несколько стилистических ошибок. Это всё, минут за 5-10(при результирующих ~10т/с). Агенты, которые крутились на ней-жэ, часами гоняли одни и те-жэ ошибки по кругу, тонули в контенте и, в концэ концов, вылетали по переполнению окна и mse homjak(27 знак., 28.10.2026 16:10)
- Интересные нюансы общения с ИИ: "- Не ослабляй проверки и не удаляй
тесты ради успешного прохождения тестирования." :-) Как будто
работодатель ставит задачу жуликоватому подчиненному :-) Сам себя
проверь и высеки :-) - il-2(28.10.2026 10:42)
- Ну ,фактически, так и есть. Как наставляют агентов на путь
истинный, ржака: "ты, мощный разработчик кода...", "ты безжалостный
контролёр качества кода..." - mse homjak(28.10.2026 22:20)
- Меня такое обращение к ИИ всегда удивляло. Я просто описываю, что
требуется сделать и ИИ делает. Обращаюсь с ним как с умным
человеком, всегда всё получается на 100% как и было задумано. - Бoмж(29.10.2026 00:34)
- Клевещут, со старыми моделями такие уговоры были полезны. Современные лучше понимают, чего от них хотят. - SciFi(29.10.2026 10:59)
- Я у ИИшэчьки спрашивал, говорит, артефакт погибшей цывилизаццыи. Моделям первых поколений так активировали нужных экспертов. Щас смысла нет, "а руки-то помнят". - mse homjak(29.10.2026 10:50)
- Меня такое обращение к ИИ всегда удивляло. Я просто описываю, что
требуется сделать и ИИ делает. Обращаюсь с ним как с умным
человеком, всегда всё получается на 100% как и было задумано. - Бoмж(29.10.2026 00:34)
- Ну ,фактически, так и есть. Как наставляют агентов на путь
истинный, ржака: "ты, мощный разработчик кода...", "ты безжалостный
контролёр качества кода..." - mse homjak(28.10.2026 22:20)