Haiku 5.5: pagá sólo el esfuerzo que tu IA necesita

El 7 de octubre, Anthropic lanzó Claude Haiku 5.5, su modelo chico más barato hasta ahora, pero la novedad no es sólo el precio: por primera vez, un modelo de esta familia viene con un dial de esfuerzo que decide cuánto piensa antes de responder. Hasta ahora, ahorrar en IA significaba elegir entre modelos distintos —uno grande y caro, uno chico y barato—. Ahora alcanza con subir o bajar un número dentro del mismo modelo.

Qué cambió el 7 de octubre

Haiku 5.5 cuesta 0,10 dólares por millón de tokens de entrada y 0,50 por millón de salida —los tokens son los fragmentos de texto que el modelo lee o escribe, y por los que se cobra—, siempre que el pedido no supere los 100.000 tokens; por encima de eso, el precio se multiplica por cinco. Tiene memoria para 1 millón de tokens de contexto y puede devolver hasta 128.000 de una sola vez. Lo nuevo es el nivel de esfuerzo: se puede elegir entre Low, Medium (el que usa por defecto), High, Xhigh y Max. A más esfuerzo, el modelo piensa más pasos antes de contestar, tarda más y sale más caro; a menos esfuerzo, resuelve rápido y barato lo que no necesita vueltas. Anthropic también bajó a la mitad el precio de leer caché en Sonnet 5.5, de 0,20 a 0,10 dólares por millón de tokens, lo que deja ese modelo bastante más barato en tareas donde se repite el mismo contexto una y otra vez.

Un dial, no un modelo distinto

Hasta ahora, bajar el costo de un bot quería decir mandar las consultas simples a un modelo chico y las complicadas a uno grande, con todo lo que eso implica: dos integraciones, dos formas de fallar, decidir bien cuándo pasar de uno a otro. El esfuerzo ajustable cambia esa cuenta: el mismo modelo resuelve "¿tenés turno para el jueves?" con esfuerzo bajo, en segundos y centavos, y una consulta con varios pasos —calcular un presupuesto con descuentos, cruzar disponibilidad de stock en dos sucursales— con esfuerzo alto, sin cambiar de proveedor ni de integración. La diferencia de tiempo es real: según mediciones independientes, subir de esfuerzo bajo a máximo puede llevar el tiempo de respuesta de unos 14 segundos a más de 6 minutos. Por eso el esfuerzo alto no conviene dejarlo prendido para todo: hay que reservarlo para lo que realmente lo necesita.

Dónde se nota en un negocio chico

En un bot de WhatsApp de una tienda o un consultorio, la mayoría de los mensajes son iguales: horario, dirección, si hay stock de tal producto, cuánto sale el envío. Esas preguntas no necesitan que la IA razone mucho: con esfuerzo bajo se resuelven igual de bien, y mucho más rápido y barato. Lo que sí amerita subir el dial es lo que cruza información o calcula algo con varias condiciones —un presupuesto con descuentos por volumen, un reclamo que hay que entender bien antes de derivar—. Separar esas dos bolsas, aunque sea con una regla simple, es la diferencia entre pagar por cada mensaje lo mismo que por el más complicado, o pagar lo que cada uno realmente necesita.