Почему локальные языковые модели снова становятся интересными
Открытые модели догнали облачные в повседневных задачах, а приватность и предсказуемые расходы стали весомее. Разбираем, что изменилось и где локальный инференс оправдан.
Тема
LLM
Материалы о том, как технологии устроены на самом деле.
3 материала по теме RSS тега
Что происходит между запросом пользователя и ответом AI-агента
Разбор полного цикла агентного запроса по шагам: где теряются секунды, где рождаются галлюцинации и почему промпт — далеко не самое важное в агентной системе.
Как мы переписали ретривал и подняли качество ответов на 34%
Кейс о переписывании ретривала: eval-набор из трёхсот вопросов, гибридный поиск, реранкер и честные метрики — что сработало, что нет и сколько это стоило.