-
- Кароч, обладателям материнок X99-XD3/XD4 на чипсете С612, под
Линухом. mse homjak(1672 знак., 05.08.2026 06:22, +1)
- Да, нащщот производительности-кол-ва потоков... mse homjak(553 знак., 06.08.2026 11:48, картинка)
- липистроника - это науко о контактах ;-) - =AlexD=(06.08.2026 12:35)
- Не пробовал qwen_coder_next_85G от unsloth? Гуф 4-бит, размером
49Г. Анслотовская оболочка его распихивает по всем карманам, лишь
бы запустился. Умненькая ИИшэчька. По сравнению с 30-гиговыми. - mse homjak(06.08.2026 13:18)
- Спасибо, попробую. - =AlexD=(07.08.2026 09:43)
- Где надо, нет. Где не надо, есть. Всё, как мы любим. - mse homjak(06.08.2026 13:03)
- Не пробовал qwen_coder_next_85G от unsloth? Гуф 4-бит, размером
49Г. Анслотовская оболочка его распихивает по всем карманам, лишь
бы запустился. Умненькая ИИшэчька. По сравнению с 30-гиговыми. - mse homjak(06.08.2026 13:18)
- липистроника - это науко о контактах ;-) - =AlexD=(06.08.2026 12:35)
- Да, нащщот производительности-кол-ва потоков... mse homjak(553 знак., 06.08.2026 11:48, картинка)
- Есть у меня самописная библа для mesh сети.. Если делать нехера, я на неё (и на всякое тоже) натравливаю нейройку (поищи косяки)... POV(691 знак., 31.07.2026 18:44, ссылка)
- кароч...наткнулся на Unsloth. У них есть своя оболочка, типа
LmStudio, но, кажись, на базе llama. Она устанавливается, пускается
в терминале и коннектится через браузер. Предложила много чего
скочять и нашла скочяные файлы LmStudio. mse homjak(279 знак., 31.07.2026 11:15)
- господь покарает нас грешных Ralex(26 знак., 31.07.2026 12:58)
- господь грешных любит - когда они каются - Лaгyнoв(31.07.2026 19:18)
- .... mse homjak(4 знак., 31.07.2026 16:30, картинка)
- Кто покарает праведных? - Ig_B(31.07.2026 14:04)
- их не бывает - Лaгyнoв(31.07.2026 19:18)
- В рай Ralex(1 знак., 31.07.2026 16:32, картинка)
- господь покарает нас грешных Ralex(26 знак., 31.07.2026 12:58)
- Пикабушка жжот Kpoк(1 знак., 29.07.2026 20:27, картинка)
- Потом выяснится, что этот Влад тоже искуственный... - SciFi(29.07.2026 20:33)
- потому и ржот! - mse homjak(29.07.2026 20:38)
- Потом выяснится, что этот Влад тоже искуственный... - SciFi(29.07.2026 20:33)
- А как вам, камрады, однобитные модели? Пишут что работают. =AlexD=(55 знак., 27.07.2026 09:23, ссылка, ссылка)
- Разницу между Q2, Q3 и Q4 не обнаружил. Ну у меня и опыта хулькин
гуй. Скорее всего, разница в скорости и точности вылезет на
каких-нить тестах. - mse homjak(27.07.2026 10:50)
- Вроде как чем длиннее рассуждение, тем хуже работают сильно квантованные сети. Зацикливания и вот это вот всё. - =AlexD=(27.07.2026 13:06)
- 16-битные числа с плавающей точкой - это даже для меня круто! - Kpoк(27.07.2026 09:49)
- Есть и четырёхбитная плавающая точка. Диапазон значений (в
зависимости от интерпретации): Nikolay_Po(58 знак., 28.07.2026 15:36, ссылка)
- Так вот я при своем минимализме и то никогда не поднимался до таких
высот. - Kpoк(29.07.2026 06:33)
- Когда нужно передать большой диапазон значений малым количеством
данных и относительная точность имеет большую важность, чем
абсолютная, то это выгодно. Nikolay_Po(60 знак., 29.07.2026 07:29)
- Спасибо, Кэп! - Kpoк(29.07.2026 12:17)
- Всегда пожалуйста! Обращайтесь! - Nikolay_Po(29.07.2026 23:12)
- Спасибо, Кэп! - Kpoк(29.07.2026 12:17)
- Когда нужно передать большой диапазон значений малым количеством
данных и относительная точность имеет большую важность, чем
абсолютная, то это выгодно. Nikolay_Po(60 знак., 29.07.2026 07:29)
- Так вот я при своем минимализме и то никогда не поднимался до таких
высот. - Kpoк(29.07.2026 06:33)
- Есть и четырёхбитная плавающая точка. Диапазон значений (в
зависимости от интерпретации): Nikolay_Po(58 знак., 28.07.2026 15:36, ссылка)
- Ну, Модуль свои поделия на первом Нейроматриксе, кажысь, так и делал. Контроль потока авто, 4 ряда до 160км/ч(или 180, не помню). - mse homjak(27.07.2026 09:45)
- Разницу между Q2, Q3 и Q4 не обнаружил. Ну у меня и опыта хулькин
гуй. Скорее всего, разница в скорости и точности вылезет на
каких-нить тестах. - mse homjak(27.07.2026 10:50)
- просто поделиться - мой сегодняшний опыт с болваном (и кто тут
болван?)... POV(1009 знак., 25.07.2026 21:49, картинка)
- Меня радует, что такое я делал уже пару раз, без ИИ. Правда, дня
три уходило. Nikolay_Po(121 знак., 26.07.2026 00:17)
- По мне так это для нашего поколения непригодно , это новые инженеры
будут работать по новому, Ai , куча агентов и вот это все. А мы
доработаем с минимумом Ai. Слишком разный формат, нужно быть
готовым разменять глубокие знания и умения, на принципиально
другие. OlegPowerC_SecondEdi(557 знак., 26.07.2026 13:33,
)
- Ничуть. ИИшэчька, это какой-нить млачший типа "принеси-подай" или
сосед по комнате, "а как это сделать". mse homjak(185 знак., 26.07.2026 14:42)
- Ну вы же понимаете что LLM ничего не считает ? это не матлаб , это
огромный такой текстовый процессор с вероятностными механизмами
предсказания и все это работает на базе материалов , использованных
для обучения. LLM даже 2+2 не считает , а тратит кучу энергии на то
чтоб предсказать чему это равно на основе миллиардов других данных - OlegPowerC_SecondEdi(26.07.2026 14:54,
)
- Это не совсем так. Чтобы LLM умели в расчеты и железную логику им
придают
калькулятортулзы для прогерства, обычно жабаскриптовые в песочнице. Многие из них реально пишут мелкие скрипты для собственных внутренних рассуждений, сильно улучшая качество ответа (что не мешает им иногда косячить в сорце скрипта). Видимо тоже, как и люди, сознают свою слабость в математике и логике. - ASDFS(26.07.2026 15:21) - Да, но логические выводы и вычисления, делает. У неё хватает мозгов
использовать для 2Х2, калькулятор. Кожаный ассистент тожэ можэт
накосячить, потому, убедился сам, что вопрошающий должэн понимать,
что он хочет получить. А это, "старая школа". - mse homjak(26.07.2026 15:00)
- И еще , я тут читаю что народ говорит - «ИИ у меня полай- принеси»
, так вот нет, это вы у него подай принеси - OlegPowerC_SecondEdi(26.07.2026 15:04,
)
- Так-то можно всё свести к тому, что мы рабы унитаза. Всё нажитое
несём к нему :-) - SciFi(26.07.2026 15:13)
- Строго говоря, не всё. Особенно на даче. - Kpoк(26.07.2026 15:37)
- Так-то можно всё свести к тому, что мы рабы унитаза. Всё нажитое
несём к нему :-) - SciFi(26.07.2026 15:13)
- А работа с Матлаб чем не устраивает? - OlegPowerC_SecondEdi(26.07.2026 15:01,
)
- "Ein folk, ein raich, ein fuhrer". Простой анализ текста позволяет
найти послецтвия копипасты ДО того, а не ПОСЛЕ того. Жэлезный
болван дал неплохую рекомендаццыю и программа в Верилоге стала
занимать не 27нС, а 4-5нС. Рутинная и неинтересная работа
выполняется жэлезом, а не мосхом. mse homjak(529 знак., 26.07.2026 15:46, +1)
- В корень зришь. - Nikolay_Po(26.07.2026 15:54)
- "Ein folk, ein raich, ein fuhrer". Простой анализ текста позволяет
найти послецтвия копипасты ДО того, а не ПОСЛЕ того. Жэлезный
болван дал неплохую рекомендаццыю и программа в Верилоге стала
занимать не 27нС, а 4-5нС. Рутинная и неинтересная работа
выполняется жэлезом, а не мосхом. mse homjak(529 знак., 26.07.2026 15:46, +1)
- И еще , я тут читаю что народ говорит - «ИИ у меня полай- принеси»
, так вот нет, это вы у него подай принеси - OlegPowerC_SecondEdi(26.07.2026 15:04,
- Это не совсем так. Чтобы LLM умели в расчеты и железную логику им
придают
- Ну вы же понимаете что LLM ничего не считает ? это не матлаб , это
огромный такой текстовый процессор с вероятностными механизмами
предсказания и все это работает на базе материалов , использованных
для обучения. LLM даже 2+2 не считает , а тратит кучу энергии на то
чтоб предсказать чему это равно на основе миллиардов других данных - OlegPowerC_SecondEdi(26.07.2026 14:54,
- Инженеры, особенно погромисты стали дорогие. Мелочовка уже вымирала, т.к. нет шансов руки нанять на проект. А теперь один человек делает работу за команду. С деградацией и без - но этот инструмент позволяет браться за широкий спектр задач, расширяя свои компенеции. Неглубоко, но широко. - POV(26.07.2026 13:37)
- Ничуть. ИИшэчька, это какой-нить млачший типа "принеси-подай" или
сосед по комнате, "а как это сделать". mse homjak(185 знак., 26.07.2026 14:42)
- Надо переосмыслить в свете последних событий. Можно умножать в
столбик десятизначные числа и чувствовать себя крутым, как
калькулятор... - SciFi(26.07.2026 00:42)
- Как там у классика: «не царское дело - в пизде ковыряться». Для
этого тоже инструмент придумают. - Kpoк(26.07.2026 10:28)
- Звучит как обращение к продавцу в секс-шопе. - SciFi(26.07.2026 10:59)
- Именно так - Kpoк(26.07.2026 11:26)
- Звучит как обращение к продавцу в секс-шопе. - SciFi(26.07.2026 10:59)
- Как там у классика: «не царское дело - в пизде ковыряться». Для
этого тоже инструмент придумают. - Kpoк(26.07.2026 10:28)
- По мне так это для нашего поколения непригодно , это новые инженеры
будут работать по новому, Ai , куча агентов и вот это все. А мы
доработаем с минимумом Ai. Слишком разный формат, нужно быть
готовым разменять глубокие знания и умения, на принципиально
другие. OlegPowerC_SecondEdi(557 знак., 26.07.2026 13:33,
- Это, как раз, норма. Для него, это плёвое дело. У него этой памяти и логики, дядя на памятно-логиковой фабрике работает. - mse homjak(25.07.2026 21:53)
- Меня радует, что такое я делал уже пару раз, без ИИ. Правда, дня
три уходило. Nikolay_Po(121 знак., 26.07.2026 00:17)
- Как точно называется модель? Какое квантование и размер файла? - ЧaтЖПT(23.07.2026 15:19,
)
- вроде бы написано qwen3-coder-30b-a3b-instruct. Она есть в Q3 и в
Q4, но вагон лайков и скачиваний на той что Q4, ясен пень. ASDFS(104 знак., 23.07.2026 15:49)
- Пощупал. ASDFS(461 знак., 24.07.2026 12:01)
- ХЗ. Мне он сказал, что контекст 32к и больше никак. - mse homjak(24.07.2026 18:14)
- Может ОЗУ кончилась? Скинь GPU ofload на единичку-две и посмотри
сколько лезет. - ASDFS(25.07.2026 17:15)
- Разобрался. То было по умолчанию. Окно контента зависит больше от
объёма ОЗУ. Щас добил до 40Г и у всех моделей размером до 30Г можно
поставить 256к, просто таская ползунки в ЛмСтудии. mse homjak(884 знак., 25.07.2026 17:57)
- Где такие набрал? Hugging Face их не знает - ASDFS(25.07.2026 19:11)
- там иерархическая структура ищеш, например, Qwen3-Coder-Next. Он
вываливает, что нашёл. Тыкаешь, например в Qwen3-Coder-Next-GGUF,
открывается страница этой модели. И, под графиком
загрузок,вываливают ггуфы Кодера Некст с разной квантизацией,
разного кол-ва параметров(наверное). mse homjak(183 знак., 25.07.2026 21:02)
- думал у фейса поиск по всем работает а не только по корням - ASDFS(25.07.2026 21:07)
- Да там, под каждым корнем, можэт штук по 20-30 квантизаций быть. Утонуть можно. - mse homjak(25.07.2026 21:10)
- Кстате, Qwen3-Coder-Next-UD-IQ2_M из всего пробованного, показал
себя наиболее сбалансированно. Он и в фильтры на "Ц" сумел, и на
Верилоге сразу дал решение, которое из
Kwaipilot_KAT-Coder-V2.5-Dev-Q5_K_S пришлось выморачивать. Щас
пытаюсь скочять Qwen3-Coder-Next на 35Г, чую, будет поумнее. Но это
не точно. - mse homjak(25.07.2026 21:06)
- Прикол... Тестирую модельки верилогом. Квайпейлот не прохавал один сигнальчик. И, типа, "Алярм", надо исправлять. Ну да, рабочий код, щас кинусь, роняя кал. Гружу Квен. Она мне, то-жэ самое..."Вы чо, угораете? Какая дурка?" Гружу другую Квен. Похрен. Проверяю Кватрусом, всё ок. Потом, догадался почистить окно. Всё ок! Они, сука, списывают друг у друга! - mse homjak(26.07.2026 11:26)
- думал у фейса поиск по всем работает а не только по корням - ASDFS(25.07.2026 21:07)
- там иерархическая структура ищеш, например, Qwen3-Coder-Next. Он
вываливает, что нашёл. Тыкаешь, например в Qwen3-Coder-Next-GGUF,
открывается страница этой модели. И, под графиком
загрузок,вываливают ггуфы Кодера Некст с разной квантизацией,
разного кол-ва параметров(наверное). mse homjak(183 знак., 25.07.2026 21:02)
- Где такие набрал? Hugging Face их не знает - ASDFS(25.07.2026 19:11)
- Разобрался. То было по умолчанию. Окно контента зависит больше от
объёма ОЗУ. Щас добил до 40Г и у всех моделей размером до 30Г можно
поставить 256к, просто таская ползунки в ЛмСтудии. mse homjak(884 знак., 25.07.2026 17:57)
- Может ОЗУ кончилась? Скинь GPU ofload на единичку-две и посмотри
сколько лезет. - ASDFS(25.07.2026 17:15)
- Говорят UD-Q4_K_XL заметно лучше, чем классическое Q4_K_M при том
же объеме. У меня никак не скачается. То час, то два осталось ... - ЧaтЖПT(24.07.2026 14:36,
)
- ХЗ. Мне он сказал, что контекст 32к и больше никак. - mse homjak(24.07.2026 18:14)
- Пощупал. ASDFS(461 знак., 24.07.2026 12:01)
- вроде бы написано qwen3-coder-30b-a3b-instruct. Она есть в Q3 и в
Q4, но вагон лайков и скачиваний на той что Q4, ясен пень. ASDFS(104 знак., 23.07.2026 15:49)
- Можно было сэкономить. Месячная подписка на это дело в 100 раз
дешевле. - SciFi(23.07.2026 08:48)
- В наше время, экономия, это такое... А так, у меня ещо и РТХ5060Ти есть. - mse homjak(23.07.2026 09:48)
- Переписки с DeepSeek оказались в открытом доступе в
Google - =AlexD=(1 знак., 23.07.2026 08:49, ссылка)
- ...для которых владельцы аккаунтов самостоятельно включили режим
общего доступа. - Cкpипaч(23.07.2026 08:54)
- Разрешите использовать ваш контент для обучения наших моделей и
улучшения сервисов. Мы обеспечиваем конфиденциальность ваших
данных. - =AlexD=(23.07.2026 10:08)
- Это забавно, учитывая то, что отцы ИИ с3,14здили весь копирайченый
контент, до которого смогли дотянуться :-) - SciFi(23.07.2026 10:19)
- Да все это понимают, поэтому когда дипсик натаскивали через
чатгопоту, те выражали недовольство, но не очень громко ;-). - =AlexD=(23.07.2026 10:31)
- Когда америнканские модели выдают иероглифы, все смотрят в другую
сторону :-) SciFi(1 знак., 23.07.2026 10:37, картинка)
- 1. Статистическая «подстройка» под вашу фразу (самая частая причина) =AlexD=(618 знак., 23.07.2026 10:56)
- Когда америнканские модели выдают иероглифы, все смотрят в другую
сторону :-) SciFi(1 знак., 23.07.2026 10:37, картинка)
- Да все это понимают, поэтому когда дипсик натаскивали через
чатгопоту, те выражали недовольство, но не очень громко ;-). - =AlexD=(23.07.2026 10:31)
- По вашей ссылке, делиться с другими пользователями. - Cкpипaч(23.07.2026 10:18)
- Это единственная настройка в аккаунте, которую я нашёл. - =AlexD=(23.07.2026 10:30)
- Это забавно, учитывая то, что отцы ИИ с3,14здили весь копирайченый
контент, до которого смогли дотянуться :-) - SciFi(23.07.2026 10:19)
- Разрешите использовать ваш контент для обучения наших моделей и
улучшения сервисов. Мы обеспечиваем конфиденциальность ваших
данных. - =AlexD=(23.07.2026 10:08)
- Он свою переписку выложил в пустыню :-) - SciFi(23.07.2026 08:51)
- У кого-то переписка, у кого-то недописка. Но выкладывать её на всеобщее обозрение - это неприлично. - Kpoк(23.07.2026 09:48)
- ...для которых владельцы аккаунтов самостоятельно включили режим
общего доступа. - Cкpипaч(23.07.2026 08:54)
- Умные люди говорят, что размер модели - не главное. Главное -
обвязка и дополнительный инструментарий. Модель, которой дали
доступ к пайтону, чтобы она сама для себя прогала утилитки и
пользовалась результатами - уже на порядок умнее. Несколько
агентов, несколько инструментов, дообучение и пр. - вот путь
джедая. =AlexD=(124 знак., 23.07.2026 08:46)
- Ну, это не совсем голая. Это Qwen Coder. Т.е. боле-мене
специализированная. А с этими огентами Кремля будем учиться жить и
работать. К тому-жэ, локально, мои тупые вопросы остаются в моём
компе и мне не так стыдно. - mse homjak(23.07.2026 09:53)
- Всецело поддерживаю и поглядываю на цены на жылезо. Но прежде чем
пускаться во все тяжкие - нужно скилы прокачать, понять как это всё
работает. Просто чат - не интересно, нужно уровень глубже копнуть,
а там народ уже командами кучкуется. - =AlexD=(23.07.2026 10:12)
- раз пошла такая пьянка то мой скромный опыт. ASDFS(1264 знак., 23.07.2026 14:16)
- Щас скачал вашу версию Qwen. Контекст, 256к(???). Смотрю на
параметры системы, пока она мне чота втуляет. У РТХ из 16Г, занято
24%. В ОЗУ она расположила ещо 6Г. И 22Г у неё в РАМ-диске. Система
после перезагрузки. Непонятна малая утилизация ВРАМ. И она, чота,
сперва буровит у себя в мозгах на англицком, а, потом, переводит на
русский. - mse homjak(24.07.2026 23:24)
- Первичную регулировку VRAM делаю параметром GPU offload и размером
контекста. ASDFS(292 знак., 25.07.2026 16:56)
- Да, в ЛМСтудии подгоняю к 14Г ВРАМ, нормально. - mse homjak(25.07.2026 18:02)
- Первичную регулировку VRAM делаю параметром GPU offload и размером
контекста. ASDFS(292 знак., 25.07.2026 16:56)
- Видяхи с VRAM больше 8-10Г вымели. - mse homjak(24.07.2026 18:40)
- да лана, моя 50HX 20Г на авито за 20 кр. ASDFS(36 знак., 25.07.2026 17:09)
- Обо что и речь, цымус не в модели, а в инфраструктуре вокруг неё. И щас народ аж ножками сучит запиливая разное. - =AlexD=(23.07.2026 15:06)
- Щас скачал вашу версию Qwen. Контекст, 256к(???). Смотрю на
параметры системы, пока она мне чота втуляет. У РТХ из 16Г, занято
24%. В ОЗУ она расположила ещо 6Г. И 22Г у неё в РАМ-диске. Система
после перезагрузки. Непонятна малая утилизация ВРАМ. И она, чота,
сперва буровит у себя в мозгах на англицком, а, потом, переводит на
русский. - mse homjak(24.07.2026 23:24)
- Скилы нужно кочять практически. Чтобы понимать чо и как. Пока не
пустишься, не поймёшь. - mse homjak(23.07.2026 10:47)
- Да понятно. Но прежде чем вдуплять в железо кровно заработанное
нужно хотя бы базу разложить в голове по полочкам. Пока погодю
чуток. - =AlexD=(23.07.2026 10:59)
- У меня был успешный опыт. Потому, дажэ если его просто повторять,
польза однозначно есть. А если привлекать новомодное, то, тем
более. Я тожэ жался и мялся. Но пересилил жабу. Мужык! - mse homjak(23.07.2026 11:05)
- Диалектика! - Kpoк(23.07.2026 12:32)
- У меня был успешный опыт. Потому, дажэ если его просто повторять,
польза однозначно есть. А если привлекать новомодное, то, тем
более. Я тожэ жался и мялся. Но пересилил жабу. Мужык! - mse homjak(23.07.2026 11:05)
- Да понятно. Но прежде чем вдуплять в железо кровно заработанное
нужно хотя бы базу разложить в голове по полочкам. Пока погодю
чуток. - =AlexD=(23.07.2026 10:59)
- раз пошла такая пьянка то мой скромный опыт. ASDFS(1264 знак., 23.07.2026 14:16)
- Но стыд будет накапливаться и концентрироваться локально... - Ig_B(23.07.2026 10:11)
- Format C:\ - mse homjak(23.07.2026 10:51)
- Всецело поддерживаю и поглядываю на цены на жылезо. Но прежде чем
пускаться во все тяжкие - нужно скилы прокачать, понять как это всё
работает. Просто чат - не интересно, нужно уровень глубже копнуть,
а там народ уже командами кучкуется. - =AlexD=(23.07.2026 10:12)
- Ну, это не совсем голая. Это Qwen Coder. Т.е. боле-мене
специализированная. А с этими огентами Кремля будем учиться жить и
работать. К тому-жэ, локально, мои тупые вопросы остаются в моём
компе и мне не так стыдно. - mse homjak(23.07.2026 09:53)
- кто-то учил, что нельзя железку мучать длинными обсуждениями. надо
- спросил, получил ответ, сделал из него выводы сжатые. открыл
новый вопрос. продолжать нельзя, если в долгую с ним играть то он
каждый раз начинает с самого начала, путается, теряется и начинает
нести хуйню - LordN(23.07.2026 08:42)
- За год всё сильно подросло. Ранее часто случлось что мозги у робота слетали, и он всё ломать насмерть, только откатываться к робочему из репо. Сейчас такого не встречаю. - POV(25.07.2026 21:09)
- Это да, есть дэцл. У них контекстная память ограничена. - mse homjak(23.07.2026 09:51)
- Кароч, обладателям материнок X99-XD3/XD4 на чипсете С612, под
Линухом. mse homjak(1672 знак., 05.08.2026 06:22, +1)