Hay muchas presiones en la red del centro de datos en estos días solo para lidiar con la expansión de los datos y el aumento del uso de arquitecturas de microservicios para aplicaciones modernas. Pero el advenimiento de la inteligencia artificial, tanto para el entrenamiento de modelos neuronales como para las inferencias que impulsan las aplicaciones, realmente ha complicado las cosas.

Cada problema, por supuesto, también es una oportunidad, y para evaluar la red del centro de datos y cómo la IA está obligando a los arquitectos de sistemas y de red a repensar lo que están haciendo para estas cargas de trabajo tan diferentes, nos sentamos con Achyut Shah, vicepresidente sénior y gerente general de la Unidad de Negocios de Conectividad en Marvell, un fabricante de semiconductores.

Los motores de cálculo que impulsan las cargas de trabajo de IA, casi siempre GPUs pero a veces ASICs personalizados, son extremadamente rápidos, pero alimentarlos con datos para que puedan procesarlos es un gran problema.

"Si observas una CPU de antaño y la comparas con una GPU o un acelerador de hoy en día, la pura potencia de procesamiento de esto es al menos una orden de magnitud mayor, al menos 10 veces, 20 veces o 30 veces más que una CPU básica", dice Shah. "Por definición, necesita recibir datos mucho más rápido para procesar esa cantidad de datos, y luego también enviarlos mucho más rápido. No solo estás viendo que cada bloque GPU consume mucha capacidad de ancho de banda, sino que también estás viendo muchos más de estos juntos en una placa y en un clúster cuando se trata de estos modelos de lenguaje grandes que se están ejecutando. Los clústeres que ejecutan estas cargas de trabajo tienen cientos, a veces miles y quizás decenas de miles de GPUs. Y eso solo seguirá aumentando en el futuro."

Claramente, eso significará que una amplia gama de tecnologías, desde los ASICs en los switches de red hasta los adaptadores en los servidores y los transceptores en los cables de red, deberán actualizarse y funcionar sincronizados.

Marvell es uno de los pocos proveedores en la Tierra que puede hacerlo todo cuando se trata de redes de centro de datos, y Shah describió, de arriba a abajo, cómo Marvell puede satisfacer las necesidades de baja latencia y alto ancho de banda que requieren las cargas de trabajo de IA, y cuyos requisitos probablemente crecerán a un ritmo exponencial durante muchos años más.

Este contenido fue patrocinado por Marvell.

Suscríbete a nuestro boletín con lo más destacado, análisis e historias de la semana directamente de nosotros a tu bandeja de entrada sin intermediarios.Suscríbete ahora