Почему локальные языковые модели снова становятся интересными
Открытые модели догнали облачные в повседневных задачах, а приватность и предсказуемые расходы стали весомее. Разбираем, что изменилось и где локальный инференс оправдан.
Тема
Материалы о том, как технологии устроены на самом деле.
4 материала по теме RSS тега
Открытые модели догнали облачные в повседневных задачах, а приватность и предсказуемые расходы стали весомее. Разбираем, что изменилось и где локальный инференс оправдан.
Полнотекстовый индекс, триграммы против опечаток, ранжирование с бизнес-сигналами и метрики, которые показывают реальное качество поиска по каталогу.
Средняя задержка прячет хвост, p99 прячет выбросы, RPS отвечает не на тот вопрос. Как строить измерения производительности, которые не обманывают команду.
Как диагностировать медленный запрос в PostgreSQL: EXPLAIN (ANALYZE, BUFFERS), чтение плана, точечный индекс под реальный фильтр и типовые паттерны деградации.