El problema de los costes de la IA del que nadie se percata hasta que llega la factura

Un piloto de IA puede parecer tranquilizadoramente económico. Unos pocos empleados reciben licencias, un equipo de desarrollo conecta un modelo de lenguaje a una aplicación interna y las primeras tareas automatizadas cuestan solo unos centavos cada una. El proyecto funciona, la adopción crece y la dirección aprueba la siguiente fase. Luego llega la factura. El coste no ha aumentado porque el precio de una sola solicitud se haya vuelto repentinamente extraordinario. Ha aumentado porque ahora miles de solicitudes se ejecutan en múltiples aplicaciones, a menudo utilizando los modelos más capaces disponibles. Algunos procesos envían la misma información de fondo repetidamente, los agentes completan varios pasos ocultos por cada tarea visible y los departamentos individuales compran suscripciones superpuestas sin una visión compartida del gasto. El gasto en IA se comporta de manera diferente a los costes de software que la mayoría de las empresas están acostumbradas a gestionar. Una licencia convencional suele tener un precio mensual o anual predecible. La IA generativa se cobra cada vez más según el consumo, lo que significa que cada solicitud, documento, respuesta y acción automatizada puede sumar a la factura. Cuanto más útil se vuelve la tecnología, más difícil puede ser prever su coste total.

Un precio unitario pequeño puede ocultar un gran coste operativo

Los proveedores de modelos suelen cobrar según los tokens, las unidades en las que se divide el texto y otra información para su procesamiento. Las empresas pagan por el material enviado al modelo y, a menudo a una tarifa más alta, por la respuesta que genera.

En una lista de precios, las cifras pueden parecer modestas. La dificultad comienza cuando se multiplican en toda una empresa. Un asistente de servicio al cliente puede procesar una solicitud entrante, recuperar información de varios sistemas, analizar los documentos pertinentes, redactar una respuesta y revisar su propio trabajo. Lo que al empleado le parece una sola interacción puede implicar numerosas llamadas a modelos en segundo plano.

El coste también varía según el modelo seleccionado, la cantidad de contexto proporcionado y la longitud de la salida. Una solicitud de clasificación breve gestionada por un modelo compacto puede ser económica. La misma tarea se vuelve considerablemente más costosa cuando se envía a un modelo de vanguardia junto con un historial de conversación extenso, documentos internos y varias páginas de instrucciones.

Los agentes de IA añaden otra capa. A diferencia de un chatbot que responde una vez, un agente puede planificar una tarea, usar herramientas, inspeccionar el resultado, corregir un error e intentar de nuevo. Cada paso puede requerir otra llamada al modelo. El usuario ve una tarea completada; el departamento financiero paga por toda la cadena de razonamiento y ejecución detrás de ella.

Esto hace que los gastos en inteligencia artificial sean inusualmente fáciles de subestimar durante una prueba piloto. Las pruebas involucran a un número limitado de usuarios y tareas cuidadosamente seleccionadas. Los sistemas de producción se enfrentan a peticiones repetidas, comportamientos inesperados, intentos fallidos y volúmenes crecientes. Un proceso que cuesta poco cuando lo usan diez personas puede convertirse en un gasto operativo sustancial cuando se integra en un producto o se implementa para miles de empleados.

La mayoría de las empresas aún no pueden ver la factura completa

El primer problema de costes es a menudo una falta de visibilidad más que un modelo intrínsecamente caro. Las herramientas de IA entran en las organizaciones a través de diferentes vías: contratos centrales de TI, presupuestos departamentales, suscripciones individuales, plataformas en la nube y productos de software que incluyen funciones de IA en sus propios precios.

Como resultado, es posible que la empresa no sepa cuánto está gastando en total. El departamento de tecnología puede supervisar una aplicación mientras que marketing, legal y ventas pagan cada uno por servicios separados. Los desarrolladores pueden usar modelos a través de un proveedor en la nube en lugar de hacerlo directamente, lo que hace que el gasto aparezca bajo una cuenta de infraestructura más amplia. Las capacidades de inteligencia artificial incluidas en el software empresarial pueden crear aún más superposición.

Aun cuando se dispone de datos de uso, es posible que no expliquen si el gasto produjo un resultado útil. Un panel de control puede mostrar cuántos tokens se consumieron sin revelar si el modelo resolvió la tarea, generó un trabajo que requirió una corrección exhaustiva o repitió una acción innecesariamente.

Por lo tanto, el consumo de tokens es una medida pobre del progreso de la IA. Una empresa que utiliza el doble de tokens no se ha vuelto necesariamente el doble de productiva. Es posible que simplemente esté procesando indicaciones más largas, utilizando modelos más caros o permitiendo que agentes ineficientes funcionen sin los controles suficientes.

La métrica más útil es el costo de un resultado de negocio completado. ¿Cuánto cuesta resolver una solicitud de servicio, revisar un documento, preparar un informe o generar código listo para producción? ¿Con qué frecuencia el resultado requiere corrección humana? ¿Cuánto tiempo ahorra realmente el proceso? Sin esas respuestas, las empresas pueden aumentar la actividad de IA sin poder demostrar valor económico.

El modelo más potente suele ser el modelo equivocado

Muchas organizaciones optan inicialmente por el modelo más conocido y capaz porque parece ofrecer el menor riesgo. Si la tarea es importante, según este razonamiento, el sistema más potente disponible debe encargarse de ella.

Ese enfoque se puede justificar para análisis jurídicos difíciles, programación compleja o decisiones que dependen de la comprensión de grandes cantidades de información. Es más difícil de defender en el caso de resúmenes rutinarios, traducciones, clasificaciones y extracción de datos.

Un modelo de frontera puede completar una tarea simple ligeramente mejor que una alternativa más pequeña, pero la mejora puede ser comercialmente irrelevante. Si ambos sistemas identifican la fecha de factura correcta, clasifican el mismo ticket de soporte o producen un resumen de reunión aceptable, el modelo más económico ofrece el mejor resultado de negocio.

En consecuencia, las empresas están adoptando un enfoque por niveles. Los modelos prémium se reservan para el trabajo que requiere verdaderamente un razonamiento avanzado, mientras que los modelos comerciales o abiertos más pequeños manejan tareas estandarizadas de alto volumen. La información confidencial puede procesarse dentro de una infraestructura protegida en lugar de enviarse a un proveedor externo.

El principio se asemeja a la planificación de la fuerza laboral. Una empresa no asigna a su abogado más experimentado a cada modificación de contrato ni a su ingeniero con más experiencia a cada solicitud de soporte rutinaria. Se adapta el nivel de experiencia a la complejidad y al riesgo del trabajo.

La adquisición de IA debe seguir la misma lógica. La pregunta relevante no es qué modelo rinde mejor en una prueba de referencia general, sino qué modelo completa una tarea particular al nivel requerido de calidad, velocidad, seguridad y costo.

El enrutamiento de modelos se está convirtiendo en un control financiero

La expresión práctica de este enfoque es el enrutamiento de modelos. En lugar de permitir que cada aplicación o empleado elija un proveedor, la empresa introduce un sistema que evalúa la tarea antes de asignarla a un modelo.

Una traducción corta se puede enviar a un modelo compacto. Un análisis confidencial puede permanecer dentro de un entorno controlado. Un problema difícil de arquitectura de software se puede escalar a un modelo de frontera. Las reglas de enrutamiento también pueden tener en cuenta el tiempo de respuesta, la disponibilidad regional, la sensibilidad de los datos y los precios actuales.

Esto reduce la necesidad de tomar una decisión permanente entre OpenAI, Anthropic, Google, Mistral o una alternativa de código abierto. La empresa puede utilizar varios modelos y ajustar la asignación a medida que cambian su rendimiento y sus precios.

El enrutamiento también ayuda a corregir uno de los hábitos más costosos en la IA corporativa: usar modelos prémium por defecto. Los empleados no necesariamente saben qué sistema es suficiente para una tarea, y los desarrolladores a menudo seleccionan el modelo más potente durante una prueba piloto porque produce la demostración más convincente. A menos que esa decisión se revise antes de la implementación, la configuración piloto puede convertirse en la arquitectura de producción.

Una capa de enrutamiento convierte la selección de modelos de una preferencia individual en una regla operativa. Permite a la empresa optimizar los costes sin pedir a cada empleado que entienda el precio de los tokens o compare puntos de referencia técnicos.

El contexto es útil, pero no es gratuito

Otra fuente de gasto evitable es la cantidad de información que se envía con cada solicitud. Los sistemas de inteligencia artificial generalmente funcionan mejor cuando reciben instrucciones claras y un contexto relevante, pero las empresas a menudo proporcionan mucho más material del que la tarea requiere.

Un asistente interno puede reenviar todo el historial de una conversación cada vez que el usuario hace una pregunta de seguimiento. Una herramienta de documentos puede transmitir un informe completo cuando solo una sección es relevante. Un agente puede cargar repetidamente las mismas políticas de la empresa, descripciones de productos o instrucciones del sistema.

El costo de estas entradas se acumula, particularmente en aplicaciones de alto volumen. Los mensajes largos también aumentan el tiempo de procesamiento y pueden dificultar que el modelo identifique la información más importante.

Varias medidas técnicas pueden reducir la carga. El contenido repetido se puede almacenar en caché en lugar de procesarse de nuevo. Los historiales de conversación se pueden comprimir. Los sistemas de recuperación pueden seleccionar solo los pasajes relevantes para la pregunta actual. Las instrucciones se pueden simplificar, mientras que los cálculos rutinarios pueden ser realizados directamente por software convencional en lugar de enviarse a un modelo de lenguaje.

Estos ajustes parecen menores en comparación con la elección de un nuevo proveedor, pero su efecto acumulativo puede ser sustancial. La eficiencia de la inteligencia artificial suele determinarse menos por el precio anunciado del modelo que por la inteligencia con la que el sistema circundante lo utiliza.

La automatización no es automáticamente más barata que la mano de obra

Los casos de negocio de la IA suelen comenzar con una comparación entre los costes de los modelos y los salarios de los empleados. El cálculo puede sugerir que un agente capaz de trabajar de forma continua será mucho más económico que una persona.

La comparación suele excluir gran parte del costo operativo real. El agente debe ser diseñado, integrado, monitoreado y actualizado. Su resultado puede requerir revisión humana, mientras que los casos inusuales requieren un proceso de escalamiento. Los controles de seguridad y los registros de auditoría añaden más gastos. Cuando el modelo cambia, es posible que sea necesario volver a probar el flujo de trabajo.

Para tareas repetitivas y de gran volumen, la automatización aún puede generar ahorros significativos. La rentabilidad es menos convincente cuando las tareas ocurren con poca frecuencia, cambian sustancialmente de un caso a otro o conllevan consecuencias graves si se manejan incorrectamente.

Una persona puede resultar más económica cuando el sistema automatizado requiere una supervisión exhaustiva. En otras situaciones, el mejor diseño no es ni el trabajo manual ni la automatización completa. La IA prepara el material, identifica información relevante o sugiere una respuesta, mientras que un empleado toma la decisión y sigue siendo responsable del resultado.

Por lo tanto, la comparación de costes debe incluir el flujo de trabajo completo. Una llamada a un modelo barata no hace que un proceso sea económico cuando genera revisiones, correcciones y riesgos adicionales en otra parte.

Los presupuestos anuales son poco adecuados para el consumo en tiempo real

Las empresas suelen planificar el gasto en tecnología de forma anual, asignan presupuestos departamentales y los revisan periódicamente. La IA basada en el consumo opera a un ritmo diferente. Los costes se acumulan cada vez que se ejecuta una aplicación, potencialmente en miles de usuarios y procesos automatizados.

Esto crea un desajuste entre los controles financieros tradicionales y la forma en que se adquiere la IA. Para cuando una factura mensual revela que el uso se ha acelerado, el gasto ya se ha producido.

Las empresas necesitan límites que funcionen más cerca del tiempo real. Estos pueden incluir presupuestos para departamentos o aplicaciones, alertas cuando el consumo cambia inesperadamente y restricciones automáticas en modelos particularmente costosos. Un aumento repentino en el uso debe investigarse como una transacción inusual en lugar de descubrirse durante una revisión trimestral.

No obstante, los controles deben diseñarse cuidadosamente. Los límites de uso arbitrarios pueden interrumpir el trabajo valioso y fomentar que los empleados utilicen herramientas no aprobadas en su lugar. El propósito no es reprimir la adopción de la inteligencia artificial, sino distinguir el consumo productivo de la experimentación costosa, la duplicación y el diseño técnico deficiente.

Los gerentes también necesitan saber por qué han cambiado los costos. Un mayor gasto puede ser totalmente racional cuando acompaña a una mayor producción, un servicio más rápido o nuevos ingresos. La señal de alerta es el gasto que aumenta sin una mejora correspondiente en el resultado del negocio.

Cómo prevenir la factura sorpresa

Una empresa no necesita una arquitectura sofisticada de múltiples modelos antes de poder mejorar el control de costos. Necesita un inventario claro de los servicios de inteligencia artificial que ya están en uso, incluidas las herramientas adquiridas por departamentos individuales y las capacidades integradas en plataformas de software más grandes.

Cada caso de uso significativo debe tener un responsable, un beneficio esperado y un coste medible. La empresa debe saber qué modelo se está utilizando, por qué se seleccionó y si se ha probado una alternativa más económica. Las aplicaciones de alto volumen merecen especial atención porque las pequeñas ineficiencias se multiplican rápidamente.

Los proyectos piloto deben incluir volúmenes de producción realistas en lugar de solo demostraciones técnicas. El caso de negocio debe tener en cuenta las solicitudes fallidas, la revisión humana, la infraestructura de soporte y el mantenimiento continuo. Antes de implementar un agente, la empresa debe estimar cuántas llamadas al modelo puede requerir una tarea completada.

El rendimiento del modelo debe probarse entonces con el propio trabajo de la empresa. Los puntos de referencia generales son útiles, pero no revelan si un modelo más económico puede gestionar las facturas, las solicitudes de servicio o los documentos internos de la organización. Una evaluación enfocada a menudo muestra que diferentes modelos son apropiados para distintas etapas del mismo proceso.

El cambio más importante es conceptual. El uso de la inteligencia artificial no es evidencia de su valor, y el modelo más capaz no es automáticamente la compra más responsable. Las empresas necesitan gestionar la inteligencia artificial como un costo operativo variable vinculado a resultados específicos.

La factura sorpresa rara vez es causada por una solicitud extravagante. Llega después de que cientos de pequeñas decisiones pasan deseadas: otro modelo prémium seleccionado por defecto, otro flujo de trabajo ejecutándose sin límites, otro departamento comprando una herramienta independiente y otro agente repitiendo pasos que nadie puede ver.

Para cuando el total sea visible, es posible que la tecnología ya esté integrada en toda la organización. Por lo tanto, la disciplina de costos debe comenzar antes de que su adopción se sienta lo suficientemente grande como para exigirla.