mse homjak (Сегодня, 20:32, просмотров: 7) ответил Nikolay_Po на Месье Хомяк, скажите пожалуйста, сравнивали ли вы разработку с
локальным, офисным ИИ и разработку с большими нейросетями, вроде
современных ChatGPT, Claude, Astra? Коллеге говорю, давай свой
сервер поднимем - а он плюётся - говорит, всё равно ни в какое
сравнение. Буду, говорит, пользоваться внешними, платными ИИ...
Всё неоднозначно. У нас, порой, плохо с инетом. Может у кого
требования к конфиденциальности. А цена вопроса локального ИИ, это
сейчас под 100тыр с ДДР4 ECC REG 128Гб. Ещо летом я собрал для
опытов на работу за 40+тыр. Где-то 15-20т/с, но там голая система и
unslothStudio, а у меня крутится всякое. Фирефох, сука отжирает
5-10т/с. И памяти, под 10-15Гб.