¿Todavía vale la pena aprender a construir un modelo desde cero?

Entrenar un modelo desde cero parece el camino para dominar la IA. En la práctica, hay formas más baratas de llegar al mismo entendimiento y al resultado que quieres.

Ten un motivo para el proyecto de entrenamiento. Un modelo pequeño para una tarea específica es algo muy distinto a intentar crear otro modelo de uso general.

Para la mayoría, lo más útil es aprender a adaptar modelos que ya existen y obtener de ellos el comportamiento que necesitas.

Y desconfía de las afirmaciones sobre modelos que «mejoran solos»: no toda promesa de ese tipo demuestra que eso ya ocurra como la gente se lo imagina.

Entender no es lo mismo que fabricar

Crear un modelo pequeño durante un curso, con poco texto y una computadora sencilla, enseña mucho: qué son los tokens (fragmentos de texto), los parámetros (los números que aprende el modelo) y por qué se equivoca.

Esto cabe en una computadora común y cuesta poco. En cambio, entrenar un modelo útil de propósito general requiere muchos datos, mucha capacidad de cómputo y tiempo, y competir con empresas que se dedican exclusivamente a eso.

Cuándo tiene sentido entrenar

Un modelo propio puede valer la pena para una tarea concreta, como clasificar documentos de un sector, ejecutarse en un dispositivo pequeño o trabajar con datos que no pueden salir de la empresa.

Incluso en esos casos, casi siempre se parte de un modelo pequeño que ya existe, no desde cero.

Los pasos de la adaptación

Ve de lo más sencillo a lo más costoso. Primero, buenas instrucciones y ejemplos en la solicitud. Después, proporciona al modelo tus documentos al momento de responder: una técnica llamada RAG (búsqueda en una base propia).

Por último, el fine-tuning (ajuste fino), que entrena un poco más un modelo listo para usar con tus propios ejemplos. Muchos problemas se resuelven con los dos primeros pasos.

Mejorar por cuenta propia, con pruebas

Cuando alguien dice que un modelo mejora por sí solo, pregunta cómo lo midió, en qué tarea y con qué lo comparó. Sin una prueba antes y después, es solo una afirmación. Lo mismo vale para tu proyecto: define la medida antes de entrenar.

1. Escribe en una frase qué tarea debe realizar el modelo y cómo medir si lo hace bien.
2. Separa un conjunto de ejemplos reales con la respuesta correcta para probar.
3. Prueba un modelo listo para usar solo con instrucciones y ejemplos en la solicitud.
4. Si falta conocimiento de la empresa, agrega la búsqueda en tus documentos.
5. Considera el ajuste fino solo si los pasos anteriores no alcanzan la meta.
6. Para aprender cómo funciona, haz un pequeño proyecto de estudio, sin intención de ponerlo en producción.

• Empezar por el entrenamiento: consume tiempo y dinero antes de saber si sirve un modelo listo para usar.
• Entrenar sin un conjunto de prueba: no hay forma de saber si mejoró.
• Creer que mejora automáticamente sin datos: la impresión de mejora puede engañar.

• Entrena desde cero solo si tienes un motivo.
• Adaptar un modelo existente suele resolver más.
• «Mejora solo» requiere pruebas.

• CursoKit Local — el laboratorio localAntes de entrenar, entiende qué pueden hacer los modelos listos para usar en tu máquina.
• ProyectoQué modelo de IA usarAntes de entrenar, revisa qué modelo listo para usar ya resuelve tu tarea.

Algunos de estos materiales están en portugués.