Guía Completa

Guía de Fine-tuning de LLMs con AstrApp

Aprende todos los conceptos básicos y mejores prácticas del fine-tuning. Ideal para principiantes.

Selección de Modelo

Llama, Qwen, Mistral, Phi

Datasets

Formatos y templates

Hyperparameters

LoRA rank, alpha, epochs

¿Qué es el Fine-tuning?

El fine-tuning de un LLM (Large Language Model) te permite personalizar su comportamiento, mejorar e inyectar conocimiento, y optimizar su rendimiento para dominios o tareas específicas.

Con AstrApp, al hacer fine-tuning de un modelo pre-entrenado puedes:

Actualizar + Aprender Nuevo Conocimiento

Inyectar y aprender información específica de tu dominio o industria.

Personalizar Comportamiento

Ajustar el tono, personalidad o estilo de respuesta del modelo.

Optimizar para Tareas

Mejorar la precisión y relevancia para casos de uso específicos.

Casos de Uso Prácticos

📈

Análisis Financiero

Predecir impacto de titulares en empresas

💬

Atención al Cliente

Respuestas precisas basadas en historial

⚖️

Legal

Análisis de contratos y cumplimiento

🛒

E-commerce

Asistentes que conocen tu catálogo

Contenido de la Guía

¿Qué es el Fine-tuning?

Personaliza el comportamiento de LLMs, inyecta conocimiento y optimiza para tareas específicas.

Ejemplos del mundo real (GPT-5 → ChatGPT)Casos de uso prácticosFine-tuning vs RAGMitos y conceptos erróneos

Elegir el Modelo y Método

QLoRA vs LoRA, modelos Instruct vs Base, y configuraciones importantes.

Comparación QLoRA vs LoRAModelos Instruct vs BaseNomenclatura de modelosTipos de entrenamiento

¿Qué modelo elegir?

Tu Dataset

Estructura, formatos y generación de datos para entrenamiento.

Estructura pregunta-respuestaGeneración sintéticaFormatos: JSONL, ShareGPT, Alpaca

Guía completa de datasets

Hyperparameters de Entrenamiento

Learning rate, epochs, batch size, gradient accumulation y más.

Learning rate óptimoBatch size y gradient accumulationCuándo ajustar qué

Guía de hyperparameters

Instalación y Requisitos

AstrApp maneja todo por ti, pero aquí están los requisitos si entrenas localmente.

Requisitos de VRAM por modeloSoftware necesarioInstalación local

Entrenamiento y Evaluación

Interpreta el training loss, configura evaluación y detecta problemas.

Interpretar training lossRango ideal (0.5-1.0)Métodos de evaluación

Ejecutar y Guardar el Modelo

Inferencia, conversaciones multi-turno y exportación.

Ejecutar modelo entrenadoGuardar como LoRA adapterExportar a Ollama, vLLM

Mitos y Conceptos Erróneos

❌"El fine-tuning no enseña conocimiento nuevo"

✅El fine-tuning sí puede inyectar y consolidar nuevo conocimiento en el modelo. La clave está en la calidad y estructura del dataset.

❌"RAG siempre es mejor que fine-tuning"

✅Depende del caso de uso. El fine-tuning es superior cuando necesitas respuestas consistentes, rápidas, y el conocimiento es estable.

❌"El fine-tuning es solo para expertos"

✅Con plataformas como AstrApp, el proceso se simplifica enormemente. Tú te enfocas en tus datos, nosotros manejamos la complejidad técnica.

¿Listo para empezar?

Continúa con la siguiente guía para elegir el modelo correcto para tu caso de uso.

¿Qué modelo debo usar?