Почему локальные языковые модели снова становятся интересными
Открытые модели догнали облачные в повседневных задачах, а приватность и предсказуемые расходы стали весомее. Разбираем, что изменилось и где локальный инференс оправдан.
Раздел
AI и модели
Языковые модели, агентные системы и всё, что происходит на стыке машинного обучения и реального продукта.
3 материала в разделе RSS раздела
Что происходит между запросом пользователя и ответом AI-агента
Разбор полного цикла агентного запроса по шагам: где теряются секунды, где рождаются галлюцинации и почему промпт — далеко не самое важное в агентной системе.
Как мы переписали ретривал и подняли качество ответов на 34%
Кейс о переписывании ретривала: eval-набор из трёхсот вопросов, гибридный поиск, реранкер и честные метрики — что сработало, что нет и сколько это стоило.