Manual de vLLM
Este manual esta preparado como ruta de aprendizaje progresiva. La idea es completarlo por capitulos, desde fundamentos hasta uso profesional, con ejemplos practicos y buenas practicas.
Capitulos previstos
- Introduccion y casos de uso
- Servidor OpenAI compatible
- Carga de modelos
- Batching y rendimiento
- Despliegue
- Observabilidad
- Buenas practicas
Enfoque
- Enfoque aplicado a IA: fundamentos, uso local o productivo, integracion con aplicaciones y evaluacion.
- Cada capitulo debe incluir teoria breve, ejemplos, ejercicios y una seccion de errores habituales.
- Cuando el tema lo permita, se incorporaran proyectos incrementales para conectar los capitulos entre si.