Clase 7 · 13 min
Con un agente funcionando todo el día, el uso crece rápido: en la suscripción llegas al límite; pagando por uso, se vuelve una cuenta grande. En mi caso, casi todo corre por la suscripción. Como con cualquier empleado, hay que auditar y cuidar el costo. Primero lo que vale para todos: el modelo correcto y el control del gasto. Después, para quien paga por uso, caché y lote.
Comenzar la clase
Objetivo: elegir el modelo correcto para cada tarea recurrente, seguir el uso de una semana y saber cuándo valen el caché y el lote.
Toca o haz clic en cada una.
Audita como auditarías a un empleado: qué entrega, cuánto cuesta y si el modelo es el adecuado para el trabajo.
Tres preguntas para cada tarea recurrente. Toca o haz clic en cada una.
Lo simple y repetitivo va en el menor; el texto y el análisis del día a día, en el del medio; lo que tiene riesgo o decide dinero, en el mayor.
Si tienes dudas, aplica el procedimiento de la clase 6 en los dos y compara.
Separar correos por asunto: modelo menor. Propuesta para un cliente: modelo mayor.
Si usas solo la suscripción del chat, el caché y el lote no aparecen para ti: de eso se encarga el proveedor.
Lo que cuenta es elegir el modelo adecuado, no repetir el contexto sin necesidad (el proyecto ya lo guarda) y observar cuándo llegas al límite.
¿Llegaste al límite todos los jueves? Mira qué tarea usó el modelo mayor sin necesitarlo.
Si nadie está esperando la respuesta ahora, la tarea puede ir en lote por la mitad del precio.
Junta las del día y envíalas de una vez.
Resumen semanal de 200 reseñas de clientes: lote.
Si toda llamada empieza con las mismas reglas y documentos, deja ese comienzo idéntico y al principio.
Lo que cambia (la pregunta, el caso) va al final.
Atención al cliente: reglas y tabla de precios siempre iguales al comienzo; el mensaje del cliente al final.
Una tabla por agente. Cambia el texto entre < > por el tuyo.
# Costo por tarea · <agente> · semana del <fecha> | tarea | veces por semana | modelo | motivo | al momento o en lote | ¿inicio fijo (caché)? | uso anotado | |---|---|---|---|---|---|---| | <tarea 1> | | menor / medio / mayor | <por qué, en una frase> | momento / lote | sí / no | <¿llegó al límite? o el valor> | | <tarea 2> | | | | | | | | <tarea 3> | | | | | | | | <tarea 4> | | | | | | | | <tarea 5> | | | | | | | Decisión de la semana: <qué cambia de modelo o pasa al lote>
Abajo está la lista de las tareas que haces para mí cada semana. Para cada una, dime: 1. si de verdad necesita el modelo mayor, o si el menor puede con ella (y cómo lo pruebo); 2. si puede esperar e ir en lote; 3. si el inicio del pedido es siempre igual (y qué dejo fijo para aprovechar el caché). Responde en una tabla y no cambies nada todavía. <lista de tareas>
Decisión: el resumen pasa al lote; la separación de correos baja al modelo menor después de pasar la prueba de 5 rondas.
Una semana de uso real.
Haz una lista de las cinco tareas que más le entregas a la IA y llena la tabla de costo por tarea con modelo, momento o lote e inicio fijo (si solo usas suscripción, marca "momento").
Listo cuando: las cinco filas tienen modelo y "momento" o "lote" marcados, con el motivo en una frase.
Durante una semana, anota el uso de cada tarea: en la suscripción, si usaste el modelo mayor y si llegaste al límite; en la API, el valor.
Listo cuando: la columna "uso anotado" está llena para la semana completa.
Con la semana en la mano, elige un cambio (modelo menor, lote o inicio fijo) y pruébalo con el procedimiento de la clase 6.
Listo cuando: la fila "Decisión de la semana" tiene un cambio probado, con el resultado de la comparación.
Agente de IA sin que el costo se te vaya de las manos.
La explicación aparece después de tu respuesta.
Pregunta 1 de 3
Separar 50 correos por asunto cada semana. ¿Qué elección tiene más sentido?competencia
Pregunta 2 de 3
Llegas al límite de la suscripción todos los jueves. ¿Qué miras primero?
Pregunta 3 de 3
¿Para quién valen el caché y el lote?
Elige una alternativa. La explicación aparece después de tu intento.