Почему локальные языковые модели снова становятся интересными
Открытые модели догнали облачные в повседневных задачах, а приватность и предсказуемые расходы стали весомее. Разбираем, что изменилось и где локальный инференс оправдан.
Автор
Открытые модели догнали облачные в повседневных задачах, а приватность и предсказуемые расходы стали весомее. Разбираем, что изменилось и где локальный инференс оправдан.
AI и модели··14 мин
Полнотекстовый индекс, триграммы против опечаток, ранжирование с бизнес-сигналами и метрики, которые показывают реальное качество поиска по каталогу.
Инженерия··5 мин
Разбор полного цикла агентного запроса по шагам: где теряются секунды, где рождаются галлюцинации и почему промпт — далеко не самое важное в агентной системе.
AI и модели··5 мин
Средняя задержка прячет хвост, p99 прячет выбросы, RPS отвечает не на тот вопрос. Как строить измерения производительности, которые не обманывают команду.
Инженерия··4 мин
Токены, шкала типографики и компоненты, которые не знают о бренде: как проектировать дизайн-систему так, чтобы смена визуального стиля её не уничтожила.
Продукт и дизайн··4 мин
Как диагностировать медленный запрос в PostgreSQL: EXPLAIN (ANALYZE, BUFFERS), чтение плана, точечный индекс под реальный фильтр и типовые паттерны деградации.
Инфраструктура··4 мин
Алерты — это интерфейс между системой и человеком. Как сделать так, чтобы каждое срабатывание требовало действия и заслуживало внимания дежурного.
Инфраструктура··4 мин
unknown вместо any, discriminated union вместо флагов, satisfies вместо аннотаций: практические приёмы строгого TypeScript в большой кодовой базе.
Инженерия··4 мин
Кейс о переписывании ретривала: eval-набор из трёхсот вопросов, гибридный поиск, реранкер и честные метрики — что сработало, что нет и сколько это стоило.
AI и модели··4 мин