Argon (Сегодня, 11:51, просмотров: 32) ответил Nikolay_Po на На Хабре вышла статья: 125 токенов в секунду на RTX 4070 Ti SUPER:
как я заставил локальную LLM работать полноценным кодинг-агентом-
- дык, оно, в массе своей, никогда и не блистало особым сильноумием.
А так, составление ТЗ на код кокого-нить поделия, для ИИшэчьки,
вполне сопоставимо по размеру с самим кодом. Ему-то надо чтобы всё
до сопли в носу было понятно. - mse homjak(Сегодня, 13:11)
- А я по себе сужу. Два года назад (а именно с такой периодичностью я сажусь за программизм) напрягал мозги и физически ощущал пампинг конгитивных способностей через неделю работы. А сейчас - нет. Даже промпт полностью подготовить лень, если можно по-бырому накидать хотелки и сказать ИИ - сделай промпт, после чего взять волю в кулак, почитать и слегка откорректировать. GLM 5.3 flash в бесплатном режиме онлайн чата делает все уже практически годным к употреблению. - Argon(Сегодня, 13:16)
- ИИ тут не причем. И без него слишком много отдано на сторону. Ни памяти ни самостоятельной попытки осмысления... POV(139 знак., Сегодня, 12:19)
- "Идиократия". Гениальная кинолента. - SciFi(Сегодня, 12:18)
- дык, оно, в массе своей, никогда и не блистало особым сильноумием.
А так, составление ТЗ на код кокого-нить поделия, для ИИшэчьки,
вполне сопоставимо по размеру с самим кодом. Ему-то надо чтобы всё
до сопли в носу было понятно. - mse homjak(Сегодня, 13:11)