Te pidieron lanzar un LLM personalizado en Databricks, pero la realidad es un laberinto: los DBUs se agotan más rápido de lo presupuestado, un modelo afinado funciona en un notebook pero se atasca bajo provisioned throughput, un prototipo de RAG que alucina frente a los directivos, y un equipo de gobernanza que pregunta quién tocó qué modelo y por qué. La documentación cubre cada servicio de Mosaic AI por separado, pero nadie te explica cómo el entrenamiento, el serving, Vector Search, los agentes y Unity Catalog encajan en un solo sistema de producción que finanzas y cumplimiento aprueben.
Esta guía es para desarrolladores e ingenieros de ML que ya viven en el Databricks Lakehouse y leen Python, SQL y un payload REST sin ayuda. Asumimos que entiendes qué son un embedding y un token, y que ya has desplegado algo antes. Fuera de alcance: enseñarte Spark desde cero, teoría general de prompt engineering o stacks ajenos a Databricks. Aquí hablamos con franqueza: Mosaic AI es fuerte en fine-tuning gestionado, serving con throughput provisionado y lineage auditable, pero débil cuando se trata de decidir por ti sobre costo, latencia y calidad. La revisión humana sigue siendo innegociable.
Lo Que Cubre Esta Guía
- Por qué el Lakehouse conviene para LLMs personalizados frente a stacks de API externos en 2026.
- La arquitectura completa mapeada de extremo a extremo, con qué servicio se encarga de cada tarea.
- Configuración de workspace y DBU para llegar a un primer endpoint sin quemar presupuesto.
- Estrategia de fine-tuning y pretraining: cuándo adaptar un modelo base y cuándo entrenar.
- Model serving y provisioned throughput ajustados para tráfico real, no para demos.
- Aplicaciones de recuperación con Vector Search para que las respuestas de RAG sigan fundamentadas.
- Orquestación de agentes con el Mosaic AI Agent Framework, incluyendo patrones de tool-use y multi-paso.
- Agent Evaluation: cómo construir quality gates y jueces en los que realmente confíes.
- Gobernanza y lineage en Unity Catalog para que cada modelo, dataset y cambio sea rastreable.
- Cálculo real de DBUs y costos, con comparaciones honestas frente a precios de APIs tipo OpenAI.
- Opciones de modelo: DBRX, Llama y traer tus propios pesos, y cómo elegir entre ellos.
- Patrones de despliegue y las trampas que rompen sistemas de LLM en producción.











Reviews
There are no reviews yet.