[!NOTE] Traducción automática Este artículo se tradujo automáticamente a partir de la versión original en inglés.
Límite de contexto
Ingeniería práctica de AI por Slava Dubrov. En este texto abordo los componentes de los sistemas AI que deben ser capaces de funcionar de forma estable en entornos de producción: entornos de ejecución de agentes, gestión de la memoria, medidas de seguridad, mecanismos de recuperación de información, procesos de evaluación, infraestructura LLM, así como las herramientas para desarrolladores relacionadas con ellos.
Comience aquí
- Arquitectura de agente: bucles de razonamiento, memoria, tool use, seguridad, y tiempos de ejecución de larga duración.
- Recuperación y evaluación: evaluación de RAG, clasificación en búsquedas, y context engineering.
- LLM infraestructura: fine-tuning, vLLM structured outputs, LoRAX serving, y LLM conceptos de ingeniería.
- Herramientas para desarrolladores: UV en macOS, pyproject.toml, y @local LLMs en macOS.
Navegar por el blog
El índice del blog Enumera cada publicación y permite filtrarla por tema o serie. Ingeniería de la pila Agentic explica la arquitectura del agente parte por parte. Para conocer el perfil del autor, las presentaciones en conferencias y el alcance temático, consulte Acerca de mí.