Вход
Наше всё
Теги
codebook
无线电组件
Поиск
Опросы
Закон
Вторник
17 ноября
О смысле всего сущего
0xFF
Средства и методы разработки
Мобильная и беспроводная связь
Блошиный рынок
Объявления
Микроконтроллеры
PLD, FPGA, DSP
AVR
PIC
ARM, RISC-V
Технологии
Кибернетика, автоматика, протоколы
Схемы, платы, компоненты
ARM, RISC-V контроллеры
1612263
Топик полностью
mse homjak
(Сегодня, 20:47, просмотров: 15)
ответил
Argon
на
А я думал, этот многомерный вектор - не токен, а совокупность вероятностносвязанных токенов по нескольку букв. Т.е. когда говорят "контекст в 200 тыщ токенов", это означает 200 тыщ трех-четырех-, а в русском языке 6-7-символьных кусков (а не векторов). Не?
ну, и я обо што. Просто "200тыщ трёх-четырёх" превращаются в гигабайты KV-кэша этих самых, которые крутят.
Ответить
Нихира не понял, а это значит, меня собираются кинуть!
-
Kpoк
(Сегодня, 21:46
)