Nicolás Cánovas, Gerente General de AMD para América Latina, tiene claro que estamos viviendo un punto de inflexión tecnológico. En una entrevista, el ejecutivo explica por qué la inferencia de IA se ha convertido en el verdadero campo de batalla donde las empresas definen su futuro, y cómo AMD está liderando esta transformación en la región con soluciones que combinan potencia, eficiencia y accesibilidad.
“La inferencia ya no es el eslabón perdido en el ecosistema de la IA: es el campo de batalla central donde se pone a prueba la eficacia real de cada estrategia“, afirma Cánovas. Y tiene razón: mientras todos hablan del entrenamiento de modelos de inteligencia artificial, pocos comprenden que la inferencia es donde la IA realmente genera valor.
El momento donde la IA pasa de la teoría a la acción
Cánovas explica el concepto con claridad: “Si bien el entrenamiento de modelos es el centro de atención debido a su complejidad y volumen de datos, la inferencia es el paso en el que la IA entra en acción. Es entonces cuando se aplican modelos entrenados para resolver problemas reales”.
¿Qué significa esto en la práctica? Detectar fraudes bancarios en segundos, interpretar imágenes médicas para diagnósticos más rápidos, o automatizar procesos industriales que antes requerían supervisión humana constante. Todo en tiempo real, con precisión y a escala masiva.
¿Por qué la eficiencia es tan crítica como la precisión?
Para Cánovas, el verdadero reto no está solo en crear modelos inteligentes, sino en hacerlos útiles y escalables: “En esta fase, la eficiencia, la velocidad, y la escalabilidad se vuelven tan importantes como la precisión. No se trata solo de la complejidad del modelo, sino de la rapidez con la que puede adaptarse a diferentes contextos, responder a nuevas variables y escalar su uso sin comprometer los resultados”.
Esto es crucial porque las empresas no pueden darse el lujo de tener modelos de IA que funcionen perfectamente en laboratorio pero colapsen al enfrentarse al mundo real. Necesitan soluciones que procesen millones de transacciones diarias sin latencia, que se adapten a situaciones cambiantes y que no disparen los costos energéticos.
“Para lograrlo, se requiere una base tecnológica robusta pero también flexible“, explica el ejecutivo. Y aquí es donde AMD entra en escena con una propuesta diferente al resto de la industria.
La apuesta estratégica de AMD: arquitecturas abiertas y flexibles
Cánovas es claro sobre la estrategia de AMD: no se trata solo de hardware potente, sino de un ecosistema completo que democratice el acceso a la inteligencia artificial.
“En AMD llevamos años desarrollando soluciones enfocadas en este desafío: arquitecturas abiertas, procesadores de alto rendimiento, aceleradores gráficos optimizados para IA, y plataformas que permiten desplegar modelos en entornos reales, desde el edge hasta la nube”, revela el ejecutivo.
Esta filosofía de estándares abiertos es fundamental. Mientras otros fabricantes apuestan por ecosistemas cerrados que obligan a las empresas a comprometerse con una única tecnología, AMD ofrece flexibilidad: sus soluciones funcionan con los principales frameworks de IA de código abierto y se integran fácilmente en infraestructuras heterogéneas.
AMD Instinct MI355X: escalabilidad sin sacrificios
El lanzamiento de los aceleradores AMD Instinct MI355X representa un salto cualitativo en la inferencia de IA empresarial. La innovación clave es FP4 (formato de punto flotante de 4 bits), que Cánovas describe como un cambio de paradigma:
“Con innovaciones como FP4 en los aceleradores AMD Instinct MI355X, mejoras en eficiencia, escalabilidad y software optimizado, AMD demuestra que la inferencia puede escalar sin sacrificar la precisión o los costos operativos“.
¿Qué significa esto en números reales?
- ✅ 3-4x más rendimiento en inferencia vs generación anterior
- ✅ Reducción del 40% en consumo energético por token procesado
- ✅ Escalabilidad masiva para modelos de lenguaje grande (LLM)
- ✅ Software ROCm optimizado con soporte para PyTorch, TensorFlow y más
AMD EPYC y las tecnologías PARD y AMD PACE: velocidad sin precedentes
Pero los aceleradores no son la única carta bajo la manga de AMD. Los procesadores AMD EPYC están diseñados para empresas que necesitan inferencia rápida sin inversiones masivas en GPUs.
Cánovas destaca dos innovaciones clave: “Con tecnologías como PARD y AMD PACE, las CPU AMD EPYC ofrecen avances sustanciales en la velocidad de inferencia sobre los modelos Transformer, reduciendo las latencias y multiplicando el rendimiento”.
Los modelos Transformer son la arquitectura detrás de ChatGPT, Claude, y prácticamente todos los LLMs modernos. Optimizar su inferencia en CPU (no solo GPU) es un diferenciador enorme para empresas que:
- 🏦 Procesan datos financieros sensibles que no pueden salir de sus servidores
- 🏥 Necesitan análisis médicos con latencia ultra-baja
- 🏭 Requieren IA en fábricas sin conexión constante a la nube
- 📊 Ejecutan modelos pequeños y medianos donde GPU sería sobredimensionado
Especificaciones AMD EPYC Serie 9004:
- 🔹 Hasta 128 núcleos Zen 4 con AVX-512
- 🔹 Memoria DDR5 y PCIe Gen 5 para throughput máximo
- 🔹 Mejor eficiencia energética de su categoría (crítico para LATAM)
- 🔹 Inferencia de IA cerca de los datos sin moverlos
América Latina: la oportunidad que AMD está capitalizando
Para Cánovas, América Latina no es un mercado secundario, sino una oportunidad estratégica donde AMD puede marcar diferencia real. Y tiene argumentos sólidos.
“En América Latina, esta capacidad de escalar la inteligencia artificial de manera eficiente y realista es revolucionaria. Disponer de soluciones que se adapten a infraestructuras heterogéneas y necesidades locales permite una adopción más ágil y sostenible”, afirma el ejecutivo.
¿Por qué AMD puede democratizar la IA en la región?
1. Infraestructura heterogénea A diferencia de empresas en Estados Unidos o Europa, las compañías latinoamericanas no siempre tienen acceso a centros de datos ultramodernos. Muchas operan con infraestructura mixta: algunos servidores en la nube, otros on-premise, algunos recursos legacy que no se pueden migrar de un día para otro.
La arquitectura abierta de AMD permite integrar soluciones de IA sin forzar migraciones masivas. Una empresa puede empezar con procesadores EPYC para inferencia básica, escalar a Instinct cuando crezca, y todo funciona con los mismos frameworks de software.
2. Costos operativos manejables La eficiencia energética no es solo un slogan ecológico: en países con tarifas eléctricas variables y costos de datacenter elevados, cada watt cuenta.
“AMD proporciona rendimiento por watt de CPU y GPU de centro de datos líder, lo que significa que requiere menos espacio y utilización de energía, además de menores costos de licencia para lograr los mismos resultados”, explica Cánovas.
Ejemplo práctico: Un banco colombiano que procesa 5 millones de transacciones diarias puede reducir su factura eléctrica en 30-40% al migrar inferencia de IA a EPYC vs soluciones menos eficientes.
3. Adopción gradual y escalable No todas las empresas pueden invertir USD $500,000 en un cluster de GPUs de entrada. La estrategia de AMD permite comenzar con CPU para modelos pequeños y medianos, y escalar a aceleradores solo cuando el negocio lo justifique.
“Elige un socio que establezca la vara más alta para la velocidad y el rendimiento. Las instancias en la nube basadas en tecnología AMD aumentan el rendimiento y reducen los OPEX“, destaca el ejecutivo.
Casos de uso reales en América Latina
🏦 Banca y Fintech Startups fintech en Brasil, México y Colombia están usando EPYC para detectar fraudes en tiempo real sin costos prohibitivos. Modelos que antes requerían GPUs caras ahora corren eficientemente en CPU.
🏥 Salud y Telemedicina Clínicas en Chile y Argentina implementan inferencia de IA para análisis de radiografías asistido, reduciendo tiempos de diagnóstico de horas a minutos.
🏭 Manufactura inteligente Plantas en México usan inferencia edge con tecnología AMD para control de calidad automatizado, detectando defectos que el ojo humano no ve.
🛒 E-commerce y Retail Retailers regionales implementan sistemas de recomendación que funcionan localmente, sin depender de infraestructura en el extranjero (importante por regulaciones de datos).
💬 La visión de Cánovas: adoptar IA es actuar ahora
El ejecutivo de AMD es enfático sobre el momento que vivimos: “Adoptar la IA ya no es una cuestión de futuro, sino de la capacidad de actuar en el presente. Y comprender el papel estratégico de la inferencia es clave para tomar decisiones informadas, diseñar políticas tecnológicas sólidas y aprovechar las oportunidades de esta nueva era”.
Para Cánovas, el error común es pensar que la IA es solo entrenamiento: “Porque si el entrenamiento prepara modelos, es la inferencia la que los pone en movimiento. Y ahí es donde comienza el verdadero impacto”.
El mensaje final: AMD no está esperando
Cánovas cierra su intervención con un mensaje claro para empresas, gobiernos y organizaciones de la región:
“La transformación ya ha comenzado. Aquellos que adopten la inferencia como una ventaja estratégica hoy serán los que definan el mañana. En AMD, no estamos esperando: estamos acelerando ese mañana con ustedes“.
La invitación es clara: no ver la inferencia como un componente técnico más, sino como el eje estratégico que definirá la ventaja competitiva de las empresas latinoamericanas en esta nueva era tecnológica.
Entrenamiento vs Inferencia: entendiendo la diferencia
Para quienes no están familiarizados con los términos técnicos, Cánovas lo explica con claridad:
Entrenamiento de IA:
- Fase donde el modelo “aprende” analizando millones de datos históricos
- Requiere semanas o meses de procesamiento intensivo
- Se hace una vez (o cada cierto tiempo para actualizar)
- Consume recursos masivos de GPU/CPU
Inferencia de IA:
- Fase donde el modelo entrenado “trabaja” en tiempo real
- Procesa datos nuevos en milisegundos
- Se ejecuta millones de veces al día
- Debe ser rápida, eficiente y escalable
Ejemplo práctico: Entrenar un modelo para detectar fraudes requiere analizar 10 millones de transacciones históricas durante un mes. La inferencia es cuando ese modelo analiza cada nueva transacción en tu banco en menos de 50 milisegundos para aprobarla o rechazarla.
La mayoría de empresas invierte mucho en entrenamiento pero descuida la inferencia. Cánovas advierte que esto es un error estratégico: “No se trata solo de la complejidad del modelo, sino de la rapidez con la que puede adaptarse a diferentes contextos y responder sin comprometer resultados”.
Las tecnologías AMD que hacen posible la revolución
Para entender por qué AMD puede competir con gigantes como NVIDIA en inferencia, es clave conocer las innovaciones técnicas que Cánovas mencionó:
FP4: La revolución de los formatos de precisión
FP4 (punto flotante de 4 bits) es un formato numérico que reduce a la mitad el tamaño de los datos vs FP8, permitiendo:
- Procesar 2x más tokens en la misma memoria
- Reducir consumo energético sin perder precisión significativa
- Escalar modelos LLM más grandes en el mismo hardware
Es especialmente efectivo en inferencia porque los modelos ya entrenados no necesitan precisión extrema para generar respuestas.
PARD y AMD PACE: Acelerando Transformers en CPU
PARD (Pattern Aware Row Decode) y AMD PACE (Prioritized Attention Compute Engine) son tecnologías que optimizan cómo los procesadores EPYC manejan la arquitectura Transformer:
- Reducen latencia en operaciones de atención (attention mechanisms)
- Multiplican el throughput en inferencia de modelos como GPT, BERT, Claude
- Permiten que CPU compita con GPU en modelos pequeños-medianos
Según AMD, estas tecnologías logran 3-5x más rendimiento en inferencia de Transformers vs generaciones anteriores de EPYC.
ROCm: El ecosistema abierto de AMD
A diferencia de CUDA (NVIDIA), que es propietario, ROCm es la plataforma de software abierta de AMD:
✅ Compatible con PyTorch, TensorFlow, ONNX y principales frameworks
✅ Sin vendor lock-in – código portable entre diferentes hardwares
✅ Actualizaciones constantes de la comunidad open-source
✅ Menor costo de licencias al no depender de ecosistemas cerrados
“Esta base de estándares abiertos permite que empresas no queden atrapadas en un solo proveedor”, explica Cánovas.
Los tres pilares de AMD para dominar la inferencia
Según Cánovas, AMD está atacando el mercado de inferencia desde tres frentes simultáneos:
1. Centros de datos empresariales
- Aceleradores Instinct MI355X para modelos masivos
- Procesadores EPYC para inferencia eficiente cerca de los datos
- Software ROCm abierto compatible con todo el ecosistema
2. Edge Computing y dispositivos
- Procesadores Ryzen AI con NPU dedicada para PCs
- Inferencia local sin depender de la nube
- Privacidad mejorada y latencia cero
3. Soluciones híbridas flexibles
- Arquitectura que permite mezclar CPU, GPU y NPU según necesidad
- Escalabilidad gradual sin vendor lock-in
- Costos optimizados por carga de trabajo
“En AMD, no solo estamos viendo ese cambio: lo estamos liderando“, concluye Cánovas.
El veredicto: ¿Por qué esto importa para tu empresa?
Si eres un decisor tecnológico, CTO o líder de innovación en América Latina, estas son las conclusiones clave de la entrevista con Cánovas:
1. La inferencia es donde se gana o pierde dinero No importa qué tan sofisticado sea tu modelo de IA si la inferencia es lenta, costosa o no escala. AMD está apostando todo a resolver este problema.
2. No necesitas GPUs de USD $30,000 para empezar Con procesadores EPYC puedes ejecutar inferencia eficiente para modelos pequeños y medianos. Escala a Instinct solo cuando tu negocio lo justifique.
3. Las arquitecturas abiertas te protegen del vendor lock-in ROCm te permite migrar entre hardwares sin reescribir código. Crucial cuando las empresas dependen cada vez más de IA para operaciones críticas.
4. América Latina puede competir sin desventajas La eficiencia energética de AMD nivela el campo de juego: no necesitas infraestructura de Silicon Valley para adoptar IA de clase mundial.
5. Actuar ahora es ventaja competitiva Como dice Cánovas: “Aquellos que adopten la inferencia como ventaja estratégica hoy serán los que definan el mañana”. El momento es ahora.
Nicolás Cánovas es Gerente General de AMD para América Latina, responsable de la estrategia regional de la compañía en soluciones de procesamiento de alto rendimiento, inteligencia artificial y computación adaptable.
