Por qué la IA está pasando de la nube al hardware local

La IA en la nube no va a desaparecer. Los modelos más grandes siguen necesitando enormes centros de datos, aceleradores especializados, memoria de gran ancho de banda, energía, sistemas de refrigeración y el tipo de infraestructura de ingeniería que solo un pequeño número de empresas puede permitirse. Para entrenar modelos de vanguardia, la nube sigue siendo fundamental.

El cambio se está produciendo en otro ámbito: la inferencia. Una vez entrenado un modelo, la cuestión es dónde debe ejecutarse. ¿Deberían enviarse todas las solicitudes, documentos, imágenes, consultas de clientes o flujos de trabajo internos a un servidor remoto? ¿O debería realizarse una mayor parte de ese procesamiento en el propio dispositivo, en la oficina, en un centro de datos privado o en el perímetro de la red?

Ahí es donde la estrategia de AMD en materia de hardware de IA local y distribuido cobra mayor interés. AMD ha venido posicionando productos como los procesadores Ryzen AI, las plataformas Ryzen AI Max y los aceleradores Instinct en torno a una idea más amplia: las cargas de trabajo de IA no se concentrarán todas en un único lugar. Algunas permanecerán en entornos de nube a hiperescala. Otras se trasladarán a la infraestructura empresarial. Y otras se ejecutarán directamente en ordenadores personales, estaciones de trabajo y dispositivos periféricos.

El resultado no es una confrontación clara entre la IA en la nube y la IA local. Se trata más bien de un reequilibrio más práctico de la infraestructura.

La nube resolvió el primer problema de la IA

La primera ola de adopción de la IA generativa se impulsó desde la nube por una razón. Las empresas querían acceder a modelos potentes sin tener que comprar el hardware, contratar equipos especializados en infraestructura ni gestionar implementaciones complejas. Las plataformas en la nube hicieron que la IA pareciera estar disponible de inmediato. Una empresa podía probar chatbots, la automatización de documentos, asistentes de programación, la generación de imágenes o herramientas de análisis a través de API y plataformas alojadas.

Ese modelo sigue presentando claras ventajas. Es escalable, flexible y más fácil de implementar. Permite a las empresas acceder a los modelos más recientes sin obligarlas a gestionar el hardware subyacente. Para los equipos más pequeños, la nube sigue siendo la forma más rápida de experimentar.

Pero la nube también conlleva algunas desventajas. Cada solicitud tiene que recorrer una distancia. Cada documento confidencial puede salir del entorno de la organización. Cada consulta se suma a los costes de uso. Cada dependencia de un proveedor externo plantea dudas sobre la disponibilidad, el precio y el control. Estos problemas se hacen más evidentes a medida que la IA pasa de la fase experimental a las operaciones diarias.

Una empresa puede aceptar depender de la nube para un uso ocasional de la IA. La situación se complica cuando la IA se integra en la atención al cliente, la revisión jurídica, el desarrollo de software, la supervisión de riesgos, los sistemas industriales o los flujos de trabajo de conocimiento internos. En ese momento, la latencia, la privacidad, la previsibilidad de los costes y la gobernanza empiezan a tener tanta importancia como la capacidad de los modelos.

La inferencia tiene una dinámica económica diferente

El entrenamiento de un modelo avanzado requiere una gran inversión de capital y un elevado consumo de recursos informáticos. Para ello, se necesitan clústeres enormes y una infraestructura altamente especializada. La inferencia es diferente. La inferencia consiste en el uso repetido del modelo: formular preguntas, generar respuestas, resumir documentos, clasificar imágenes, ayudar a los empleados o gestionar agentes.

A medida que aumenta el uso, la inferencia puede resultar costosa de una forma más sutil. Es posible que una sola consulta no suponga un gran gasto, pero millones de consultas relacionadas con empleados, clientes, flujos de trabajo y aplicaciones pueden alterar el panorama financiero. Para las empresas que utilizan la IA a gran escala, la cuestión es si cada interacción debe facturarse a través de un servicio remoto en la nube.

Esta es una de las razones por las que el hardware local está ganando protagonismo. La ejecución local de modelos más pequeños u optimizados puede reducir los costes recurrentes de la nube para determinadas cargas de trabajo. Además, puede resultar útil en casos de uso en los que la respuesta inmediata es fundamental, como herramientas de atención al cliente, monitorización industrial, dispositivos sanitarios, robótica, centros de atención telefónica, sistemas de ciberseguridad o asistentes personales de IA.

Los materiales para desarrolladores de AMD sobre los procesadores Ryzen AI apuntan en esta dirección, con ejemplos de implementaciones híbridas de modelos de lenguaje grandes (LLM) locales diseñadas para mejorar métricas como el tiempo hasta el primer token y los tokens por segundo mediante el uso conjunto de la NPU y la GPU. AMD también ha descrito GAIA como una aplicación de IA generativa de código abierto diseñada para ejecutar modelos de lenguaje grandes (LLM) locales y privados en ordenadores con Windows optimizados para el hardware Ryzen AI.

Lo importante no es que todas las empresas vayan a empezar de repente a ejecutar sus propios modelos de lenguaje a gran escala de forma local. La mayoría no lo hará. Lo importante es que ahora es posible distribuir de forma inteligente un mayor número de casos de uso de la IA entre la nube y la infraestructura local.

La privacidad es un argumento más sólido que la velocidad

La latencia es importante, pero la privacidad puede ser el motivo más convincente para utilizar la IA local.

Muchos flujos de trabajo de IA implican material sensible: contratos, registros financieros, comunicaciones con los clientes, código fuente, estrategia interna, información médica, documentos sujetos a normativa o datos personales. Incluso cuando los proveedores de servicios en la nube ofrecen un alto nivel de seguridad, algunas organizaciones prefieren mantener ciertos procesos más cerca de su propio entorno.

Esto es especialmente relevante en sectores regulados, en el sector público, en defensa, en sanidad, en finanzas y en cualquier organización con estrictas obligaciones de confidencialidad. Un sistema de IA local puede reducir la cantidad de datos que se envían al exterior. También puede facilitar la gestión, ya que la organización tiene un control más claro sobre dónde se almacenan los datos, quién puede acceder a ellos y durante cuánto tiempo se conservan.

Eso no significa que la IA local sea automáticamente más segura. Las implementaciones locales siguen necesitando medidas de seguridad, supervisión, controles de acceso, aplicación de parches y gobernanza de los modelos. Un sistema local mal gestionado puede generar sus propios riesgos. Sin embargo, para determinados casos de uso, la capacidad de procesar datos en el propio dispositivo o dentro de una infraestructura controlada supone una ventaja considerable.

Es aquí donde el modelo de IA «cloud-first» puede parecer menos adecuado. Cuanto más confidencial es el flujo de trabajo, más atractiva resulta una infraestructura local o privada.

La oportunidad de AMD no se limita a los centros de datos

A menudo se habla de AMD en relación con los aceleradores de IA para infraestructuras a gran escala. Sus series Instinct MI300 y MI350 forman parte de ese debate sobre los centros de datos, y la empresa presenta la serie MI350 como diseñada para la IA generativa, la computación de alto rendimiento, el entrenamiento y la inferencia de alta velocidad. AMD afirma que la serie MI350 utiliza su arquitectura CDNA 4 y está dirigida a las infraestructuras modernas de IA.

Pero la historia de la IA local es diferente. Se trata de llevar un rendimiento útil de la IA a los ordenadores personales, las estaciones de trabajo y los dispositivos periféricos, y no solo a los grandes clústeres de servidores. AMD ha promocionado las plataformas «Ryzen AI Halo» y «Ryzen AI Max PRO» para ordenadores personales y estaciones de trabajo con IA local de tipo «agentic», posicionándolas para flujos de trabajo empresariales en los que se combinan el hardware y el software de IA.

Esto es importante porque la adopción de la IA se está volviendo menos centralizada. Es posible que los empleados quieran asistentes de IA que puedan trabajar con archivos locales. Los desarrolladores pueden necesitar ayuda con la programación sin tener que enviar repositorios confidenciales fuera de la empresa. Los diseñadores, analistas e ingenieros pueden querer un rendimiento de IA a nivel de estación de trabajo. Los operadores industriales pueden necesitar IA cerca de las máquinas y los sensores. Los equipos de campo pueden necesitar sistemas que funcionen incluso cuando la conectividad sea limitada.

En esas situaciones, el hardware local no supone un paso atrás respecto a la nube. Se adapta mejor al entorno operativo.

Los modelos más pequeños están cambiando el cálculo

Hace unos años, la idea de ejecutar una IA generativa útil a nivel local parecía poco realista para la mayoría de las organizaciones. Los modelos de gran tamaño eran demasiado pesados, el hardware era demasiado limitado y la experiencia de usuario no era lo suficientemente buena.

Eso ha cambiado. Los modelos más pequeños han mejorado. La cuantificación ha reducido los requisitos de memoria. Los aceleradores de hardware son ahora más accesibles. Los desarrolladores están aprendiendo a combinar modelos locales y en la nube en flujos de trabajo prácticos. Las investigaciones recientes sobre la implementación de modelos de lenguaje a gran escala (LLM) en el borde también han puesto de relieve por qué la inferencia local resulta cada vez más viable en entornos en los que la privacidad, la latencia y la conectividad son factores importantes.

Esto no significa que los modelos locales siempre estén a la altura de los mejores modelos en la nube. A menudo no es así. Es posible que los modelos alojados más grandes sigan superando a los sistemas locales más pequeños en tareas de razonamiento complejo, conocimientos amplios, programación y tareas multimodales. Sin embargo, muchos casos de uso empresarial no requieren el modelo más potente disponible, sino un modelo lo suficientemente bueno que sea rápido, privado, asequible y fiable.

Esa distinción es importante. El mercado de la IA lleva años centrándose en la capacidad de los modelos. La siguiente etapa se centrará más en la adecuación. Es posible que un equipo jurídico encargado de resumir políticas internas no necesite un modelo de vanguardia para cada tarea. Una planta de fabricación que supervisa equipos puede necesitar más una baja latencia que una inteligencia general amplia. Un flujo de trabajo de atención al cliente puede requerir rapidez, control de costes y protección de datos. Es posible que un dispositivo de campo tenga que funcionar sin conexión.

El hardware local resulta atractivo cuando el mejor modelo no es el más potente, sino el más adecuado.

La nube sigue teniendo ventaja para las cargas de trabajo pesadas

No hay que exagerar las ventajas de la IA local. Muchas cargas de trabajo de IA seguirán basándose en la nube, ya que esta sigue siendo el entorno más práctico para el entrenamiento a gran escala, la inferencia compleja, el escalado rápido y el acceso a modelos de vanguardia.

Las empresas también deben tener en cuenta la carga operativa. La adquisición de hardware local es solo el principio. Necesitan personal capaz de gestionarlo, actualizar los modelos, ocuparse de la seguridad, medir el rendimiento e integrar los sistemas en los flujos de trabajo existentes. Los proveedores de servicios en la nube eliminan gran parte de esa carga.

También está la cuestión de la flexibilidad. El hardware de IA se queda obsoleto rápidamente. Los modelos cambian. Las cargas de trabajo evolucionan. Una empresa que invierte mucho en infraestructura local debe tener la seguridad de que el hardware seguirá siendo útil el tiempo suficiente como para justificar el gasto de capital. Los servicios en la nube ofrecen mayor flexibilidad, aunque pueden resultar caros a gran escala.

Por eso, la mejor opción es un modelo híbrido. La nube seguirá gestionando las cargas de trabajo más exigentes y elásticas. El hardware local asumirá una parte cada vez mayor de los flujos de trabajo en los que la privacidad, la latencia, los costes recurrentes o la conectividad hacen que una implementación exclusivamente en la nube resulte menos atractiva.

La cuestión clave para las empresas es determinar dónde debe ubicarse cada carga de trabajo

Para las empresas, la decisión no debería partir de AMD, Nvidia, Microsoft, Amazon, Google ni ningún otro proveedor. Debería partir de la carga de trabajo.

Una empresa debe preguntarse qué debe hacer el sistema de IA, qué datos va a procesar, con qué rapidez debe responder, con qué frecuencia se ejecutará, qué nivel de calidad del modelo se requiere y qué riesgos se generan si el sistema depende de un servicio externo.

Un proyecto de marketing de bajo riesgo puede ser perfectamente adecuado para una herramienta en la nube. Una revisión jurídica delicada puede requerir una infraestructura privada. Un bot de atención al cliente puede combinarse entre la recuperación local y la generación en la nube. Un sistema de monitorización de una fábrica puede necesitar procesamiento en el borde, ya que el retraso o la pérdida de conectividad son inaceptables. Un equipo de desarrollo de software puede necesitar asistencia local para la programación de repositorios propios.

Una vez que se comprende la carga de trabajo, la elección de la infraestructura resulta más clara.

Aquí es también donde la amplia gama de productos de AMD puede marcar la diferencia. La empresa no solo comercializa un tipo de chip de IA. Está tratando de abastecer a varios segmentos del mercado: aceleradores para centros de datos, CPU, computación adaptativa, ordenadores con IA, estaciones de trabajo e implementaciones en el borde. La propia AMD describe su cartera de IA como un conjunto que abarca soluciones de CPU, GPU y computación adaptativa para diferentes necesidades de implementación.

Esa amplitud resulta útil porque la infraestructura de IA se está fragmentando cada vez más. No habrá un único modelo de implementación universal.

Qué significa esto para la estrategia de IA

El auge del hardware local de IA está cambiando la forma en que las empresas deben plantearse la planificación en materia de IA. En lugar de dar por sentado que todas las herramientas de IA son suscripciones en la nube, necesitan un mapa de la infraestructura.

¿Qué flujos de trabajo pueden utilizar con seguridad la IA en la nube pública? ¿Cuáles requieren una nube privada? ¿Cuáles deberían ejecutarse en servidores locales? ¿Cuáles pueden ejecutarse en los dispositivos de los empleados? ¿Cuáles necesitan hardware periférico? ¿Qué modelos son suficientemente buenos a nivel local y cuáles requieren realmente una capacidad de vanguardia?

No se trata solo de una decisión de TI. Afecta al cumplimiento normativo, las compras, la ciberseguridad, las finanzas, las operaciones y la experiencia del usuario. Una empresa que opte por la IA en la nube para todo puede ganar en rapidez, pero perderá el control de los costes. Una empresa que opte por la IA local para todo puede ganar en control, pero generará complejidad. La estrategia más acertada es tomar una decisión meditada.

Lo mismo ocurre con los inversores que siguen de cerca el mercado del hardware de IA. La oportunidad no radica simplemente en que la IA en la nube esté perdiendo terreno y el hardware local esté ganando terreno. La oportunidad radica en que las cargas de trabajo de IA se están multiplicando, y cada tipo de carga de trabajo requiere una infraestructura diferente. Esto abre un espacio para las empresas capaces de suministrar hardware eficiente en diversos entornos.

El papel de AMD en ese cambio dependerá no solo de los resultados de las pruebas de rendimiento, sino también de la compatibilidad con el software, la aceptación por parte de los desarrolladores, la confianza de las empresas, la capacidad de suministro y el grado en que su hardware se adapte a los flujos de trabajo reales de la IA. En la infraestructura de IA, el rendimiento puro es importante. La facilidad de uso y el ecosistema también lo son.

El camino a seguir es el modelo híbrido

El futuro más probable no es aquel en el que la IA en la nube salga perdiendo y la IA local salga ganando, sino aquel en el que la IA se vuelva más distribuida.

Grande modelos seguirán entrenándose y prestándose desde los principales centros de datos. Las empresas utilizarán infraestructura privada para flujos de trabajo sensibles o de gran volumen. Los ordenadores personales y las estaciones de trabajo gestionarán más tareas de IA a nivel local. Los dispositivos periféricos procesarán los datos cerca de los sensores, las máquinas y los usuarios. Los servicios en la nube seguirán proporcionando escalabilidad y acceso a modelos de vanguardia, pero ya no serán la respuesta por defecto para todas las tareas de IA.

Por eso es tan importante la apuesta de AMD por el hardware local. Refleja un cambio real en el mercado. Las empresas ya no quieren que la capacidad de IA se limite a un servicio remoto. Quieren tener parte de ella bajo su propio control, cerca de sus propios datos e integrada en sus propios flujos de trabajo.

La IA en la nube no está perdiendo terreno en el sentido de que se esté quedando obsoleta. Lo que está perdiendo es su exclusividad. En la primera fase de la IA generativa, la nube era el centro de gravedad natural. En la siguiente fase, ese centro estará más distribuido.

Las empresas que se den cuenta de esto desde el principio no se preguntarán si la IA en la nube o la local es mejor en general. Se preguntarán qué entorno es el más adecuado para cada tarea. Ahí es donde se forjará la verdadera ventaja en materia de infraestructura.