Edge of Context
Обо мне
Практическая AI-инженерия от Славы Дуброва.
Я д-р Вячеслав Дубров*, или просто Слава. Я создаю production-системы на базе ML и AI и руковожу командами, которые занимаются тем же.
Сейчас я Staff ML/AI Engineer в Octonomy AI. До этого я работал в HubSpot: сначала был техническим лидом команды Context Layer, отвечавшей за retrieval, граундинг и инфраструктуру памяти, а затем присоединился к команде Agent Execution, где занимался деплоем LLM, файн-тюнингом, эвалуацией и компонентами рантайма, благодаря которым агенты работают в production. Поэтому я знаю, что происходит после того, как демо начинает работать.
Зачем читать этот блог
Я пишу заметки, которых мне самому не хватало, когда я отлаживал production-системы AI и агентные системы. Многие AI-проекты выглядят аккуратно в ноутбуке, но становятся гораздо сложнее, когда в дело вступают реальные пользователи, латентность, права доступа, дрейф данных и стоимость. Этот блог посвящён именно такой стороне разработки.
Релевантный опыт:
- Octonomy AI: AI-инжиниринг уровня Staff для production-агентных систем.
- HubSpot Agent Execution: файн-тюнинг LLM, оптимизация инференса, эвалуация агентов и гардрейлы безопасности в production.
- HubSpot Embedding Hub и Context Layer: инфраструктура retrieval, граундинга и памяти для AI-агентов; в этой команде я был техническим лидом.
- Wayfair: системы обнаружения мошенничества и скама, а также созданные и возглавляемые мной эмбеддинг-системы, которые обеспечивали около $4M годовой экономии.
- OLX (Prosus): системы рекомендаций и ранжирования поиска для маркетплейса, работающего в большом масштабе.
- Докладчик на World Agentic AI Summit Berlin 2026: «Инжиниринг агентного стека».
- Кандидат технических наук (российская учёная степень, эквивалентная PhD) по AI-диагностике, полученная в Южном федеральном университете; автор рецензируемых публикаций и патентов.
- TU Ilmenau: семестр докторантского исследования по мехатронике (2013–2014) по стипендии DAAD Ломоносова.
- Работа со всем циклом: пайплайнами данных, обучением, эвалуацией, деплоем и операционными деталями, связывающими эти этапы.
- Production-решения на базе ML в AWS и GCP: batch-, streaming- и real-time-системы.
- Код с открытым исходным кодом, туториалы и статьи для тех, кто создаёт AI-системы, которые должны работать в production.
Выступления
- «Инжиниринг агентного стека» — World Agentic AI Summit, Берлин (2026). Production-архитектура агентных AI-систем: Cognitive Engine, Cortex (архитектура памяти) и Schema-Guided Reasoning.
О чём я пишу
В основном о сбоях в production и о том, что я с ними делал.
- Архитектура агентов: циклы ризонинга AI-агентов, архитектура памяти AI-агентов, tool use AI-агентов, безопасность AI-агентов, рантайм долгоживущих AI-агентов, харнесс-инжиниринг
- Контекст и retrieval: контекст-инжиниринг для AI-агентов и агентных систем, паттерны RAG, типизированное состояние памяти агентов под управлением схемы
- Эвалуация: эвалуация AI-агентов в production — превращаем трейсы в регрессионные наборы и CI-гейты
- Разработка LLM: руководство по файн-тюнингу LLM, квантизация моделей в 2026 году, Schema-Guided Reasoning на vLLM, руководство по сервингу LoRAX
- Инструменты разработчика: настройка Python, uv на macOS, туториал по MCP-серверу с uv и FastMCP
Технологический радар
Сервинг и файн-тюнинг LLM: vLLM, LoRAX, LoRA/QLoRA, VLMs, SGR/SO
Агенты: LangGraph, Claude, Google ADK, CrewAI, LlamaIndex, SmolAgents
Безопасность и эвалуация: гардрейлы, автоматизированные эвалы, LLM-as-a-judge, observability
Векторный поиск и retrieval: Qdrant, Faiss, semantic search, hybrid retrieval, реранкинг, сжатие контекста
Инструменты и рабочие процессы: MCP (Model Context Protocol), A2A, FastMCP, n8n
MLOps: AWS (два сертификата), GCP/Vertex AI, Kubernetes, Kubeflow, Airflow, Ray, MLflow
Базовый стек: Python, SQL, Scala, Java, Rust, PyTorch, FastAPI, Spark, Polars
Давайте на связи
Меня обычно интересуют production-решения на базе ML, агентные системы, retrieval, эвалуация и работа по упрощению пайплайнов, которые стали слишком сложными.
* Кандидат технических наук (российская учёная степень, эквивалентная PhD), степень присуждена Южным федеральным университетом, Ростов-на-Дону, 2015 год.