Adiciones al portafolio más amplio de soluciones de IA generativa del mundo
capacitan a las organizaciones con soluciones flexibles de IA
10 de outubro de 2024 - Dell Technologies (NYSE: DELL) expande el portafolio más amplio de
soluciones de IA generativa (GenAI) del mundo con adiciones a Dell AI Factory, enfocadas en
entornos AMD. Estas soluciones ofrecen a las empresas capacidades de IA mejoradas,
incluyendo mayor escalabilidad y flexibilidad, para mantenerse competitivas en el cambiante
escenario tecnológico.
"Integrando la tecnología AMD en los más recientes servidores, soluciones y servicios de IA de
Dell a través de Dell AI Factory, estamos proporcionando el rendimiento y las eficiencias que
las empresas necesitan hoy y en el futuro", dijo Arthur Lewis, presidente del Grupo de
Soluciones de Infraestructura de Dell Technologies. "Junto con AMD, estamos estableciendo
nuevos estándares de rendimiento en IA, ofreciendo a las empresas soluciones poderosas y
económicas, esenciales para entornos modernos orientados por datos."
"Nuestros procesadores AMD EPYC más recientes y los aceleradores Instinct proporcionan a
los clientes de Dell soluciones end-to-end avanzadas, a escala, que acelerarán las
implementaciones de IA e impulsarán la infraestructura de TI crítica para los negocios", dijo
Forrest Norrod, vicepresidente ejecutivo y gerente general del Grupo de Soluciones de Centro
de Datos de AMD. "Nuestra larga colaboración con Dell continúa ofreciendo soluciones de
vanguardia que ayudan a mejorar la eficiencia operativa y reducir el tiempo de retorno sobre la
inversión, fomentando la innovación en sectores altamente competitivos."
Nuevos servidores Dell PowerEdge soportan cargas de trabajo exigentes de IA a escala
Las adiciones al portafolio Dell PowerEdge soportan una amplia gama de casos de uso de IA y
cargas de trabajo tradicionales, simplificando la gestión y la seguridad de los servidores. Las
plataformas proporcionan soluciones personalizables y eficientes que simplifican la gestión y
soportan cargas de trabajo de alto rendimiento para empresas modernas:
Diseñado para cargas de trabajo de IA empresarial, el Dell PowerEdge XE7745 soporta
hasta ocho GPU de doble ancho o 16 GPU de ancho simple PCIe con procesadores
AMD EPYC de 5ª generación en un chasis de 4U refrigerado por aire. Construido para
inferencia de IA, ajuste de modelos y computación de alto rendimiento, las ranuras de
GPU internas están emparejadas con ocho ranuras PCIe Gen 5.0 adicionales para
conectividad de red, creando configuraciones densas y flexibles con 2x más capacidad
de GPU DW PCIe.¹
Los servidores PowerEdge R6725 y R7725 están optimizados para escalabilidad con
procesadores AMD EPYC de 5ª generación de alto rendimiento. El nuevo diseño de
chasis DC-MHS permite refrigeración por aire mejorada y CPUs duales de 500W,
enfrentando desafíos térmicos para potencia y eficiencia.² Estas plataformas soportan
cargas de trabajo rigurosas de análisis de datos e IA, con configuraciones optimizadas
para escalabilidad, ofreciendo rendimiento récord para cargas de trabajo como
virtualización, bases de datos e IA.³ El R7725 ofrece hasta un 66% de aumento de
rendimiento y hasta un 33% de aumento de eficiencia en la línea superior.⁴
Todas las tres plataformas pueden soportar hasta un 50% más de núcleos, con hasta un 37%
de aumento de rendimiento por núcleo, resultando en mayor rendimiento, eficiencia y mejor
Costo Total de Propiedad (TCO).⁵ Estas mejoras consolidan hasta siete servidores de 5 años
en un servidor actual, resultando en hasta un 65% menos consumo de energía de la CPU.⁶
Los servidores PowerEdge R6715 y R7715 con procesadores AMD EPYC de 5ª
generación ofrecen mayor rendimiento, eficiencia y hasta un 37% más de capacidad de
unidad, resultando en mayor densidad de almacenamiento.⁷ Disponibles en varias
opciones de configuración, los servidores de socket único soportan el doble de memoria
con soporte para 24 DIMMs (2DPC) y cumplen con diversos requisitos de carga de
trabajo, maximizando el rendimiento en chasis compactos de 1U y 2U.⁸ El R6715
presenta rendimiento récord mundial para tareas de IA y virtualización.⁹
Para clientes que implementan IA a escala, Dell Technologies también continuará ofreciendo
soporte a todos los más recientes aceleradores AMD Instinct en servidores Dell PowerEdge
XE.
Los equipos de TI pueden monitorear, gestionar y actualizar remotamente los servidores Dell
PowerEdge con el Controlador de Acceso Remoto Integrado de Dell (iDRAC) actualizado. Con
un procesador más rápido, memoria aumentada y coprocesador de seguridad dedicado, el
iDRAC simplifica la gestión y la seguridad de los servidores, permitiendo a los equipos de TI
responder con mayor confiabilidad y eficiencia.
"Las soluciones proporcionadas por Dell Technologies y AMD para OSF Healthcare nos
permiten ofrecer mejores servicios a nuestros clínicos y pacientes, reducir nuestros costos
generales y ayudar a las comunidades desatendidas. Cuando las vidas de los pacientes
dependen de nuestras plataformas, es crucial que nuestros sistemas permanezcan estables y
operativos las 24 horas, los 7 días de la semana, los 365 días al año", dijo Joe Morrow, director
de Servicios de Tecnología de OSF Healthcare.
Mejoras en Dell AI Factory simplifican y aceleran las implementaciones de IA Generativa
Dell AI Factory está diseñada para soportar diversos requisitos de IA con el portafolio más
amplio de soluciones de IA del mundo, desde desktops hasta centros de datos y nubes,
permitiendo a las organizaciones dimensionar adecuadamente sus inversiones en IA:
Soluciones de IA Generativa de Dell con AMD usando el servidor Dell PowerEdge
XE9680 con aceleradores AMD Instinct™ MI300X para proporcionar inferencia de IA,
generación aumentada por recuperación (RAG) y personalización. La integración
simplifica la implementación de IA, mejora la seguridad, permite arquitecturas
escalables y modulares y reduce el tiempo de retorno sobre la inversión en hasta un
86%, ayudando a las organizaciones a optimizar sus inversiones en IA.¹⁰
El Dell Enterprise Hub en Hugging Face ahora soporta el Dell PowerEdge XE9680 con
aceleradores AMD Instinct MI300X, proporcionando contenedores personalizados y
scripts para fácil implementación segura de modelos como Llama y Mixtral. Estos
modelos en contenedor están exclusivamente optimizados para aumentar el
rendimiento de inferencia basado en el modelo y servidor y aprovechan el back-end
Hugging Face Text Generation Inference (TGI).
Los Servicios Profesionales de Dell para IA Generativa se están expandiendo para
soportar entornos AMD. Nuevos Servicios de Implementación de Dell para la Plataforma
GenAI con AMD proporcionan una plataforma operativa personalizada, incluyendo
configuración de Kubernetes, implementación de estructuras avanzadas de IA y
transferencia de conocimiento al cliente sobre las mejores prácticas para maximizar el
retorno sobre la inversión. Desde el desarrollo de la estrategia hasta la preparación de
datos, implementación de plataforma y modelo y escalamiento de la solución, los
profesionales de Dell ayudan a los clientes a lograr resultados empresariales con IA a lo
largo de todo el ciclo de vida.
"Dell Technologies y AMD continúan impulsando la innovación en IA, ofreciendo soluciones y
servicios integrales que ayudan a las empresas a modernizar sus centros de datos, mejorar la
escalabilidad y utilizar la IA para mejores resultados comerciales", dijo Kuba Stolarski,
Research VP de IDC. "Las últimas actualizaciones de Dell AI Factory son el próximo paso en la
jornada de Dell para proporcionar soluciones de IA que aumenten la eficiencia y el valor."
Disponibilidad
El servidor Dell PowerEdge XE7745 estará disponible globalmente a partir de enero de
2025.
Los servidores Dell PowerEdge R6715, R7715, R6725 y R7725 estarán disponibles
globalmente a partir de noviembre de 2024.
Las Soluciones de IA Generativa de Dell con AMD estarán disponibles globalmente a
partir del cuarto trimestre de 2024.
Las actualizaciones de Dell Enterprise Hub en Hugging Face ya están disponibles
globalmente.
Los Servicios de Implementación de Dell para la plataforma de IA Generativa están
disponibles inicialmente en México y Brasil.
Sobre Dell Technologies
Dell Technologies (NYSE: DELL) ayuda a organizaciones e individuos a construir su propio
futuro digital y a transformar la manera en que trabajan, viven y se divierten. La empresa ofrece
a sus clientes el portafolio de tecnología y servicios más amplio e innovador de la industria para
la era de la IA.
1 Basado en el análisis de Dell de las especificaciones del Dell PowerEdge XE7745, que muestra 8 ranuras PCIe Gen5 además de
las ranuras para GPU. Comparando el XE7745 con la generación anterior, el Dell PowerEdge R760XA, el XE7745 admite hasta 8
GPUs DW o 16 GPUs SW, mientras que el R760XA admite hasta 4 GPUs DW o 12 GPUs SW. Datos precisos al 02/10/2024.
2 Basado en el análisis de Dell, comparando la CPU principal soportada en el Dell PowerEdge R7725, con procesador AMD EPYC
de 5ª generación y 192 núcleos Zen 5c, con la CPU principal soportada en el Dell PowerEdge R7625, que tiene procesadores AMD
EPYC de 4ª generación y 128 núcleos Zen 4c. Además, según las especificaciones del Dell PowerEdge R7725, muestra soporte
para 2 CPUs de 500W con refrigeración por aire. Datos precisos al 02/10/2024. El rendimiento real puede variar.
3 Basado en los servidores Dell PowerEdge que alcanzaron puntuaciones récord mundiales para VMMark4 (puntuación de
5.17@5.8 tiles con el Dell PowerEdge R7725), SAP-SD (puntuación de 201,000 usuarios con el Dell PowerEdge R6725) y TPCx-AI
(Puntuaciones de 720,386 @SF3, 864,593@SF10 y 1,115,609@SF30 con los Dell PowerEdge R6715 y R6725) al 02/10/2024. El
rendimiento real puede variar.
4 Basado en el análisis de Dell de las puntuaciones SPECIntRate de la CPU AMD EPYC de 5ª generación 9965, con puntuación de
2980 en el R7725, en comparación con la CPU AMD EPYC de 4ª generación 9754, con puntuación de 1790 en el R7625. Datos
precisos al 02/10/2024. El rendimiento real puede variar.
Basado en el análisis de Dell de las puntuaciones SPECIntRate de la CPU AMD EPYC de 5ª generación 9965, con puntuación de
2980, que tiene un cTDP de 500W en el R7725, en comparación con la CPU AMD EPYC de 4ª generación 9754, con puntuación
de 1790, que tiene un cTDP de 400W en el R7625. La eficiencia para cada configuración se calcula dividiendo la puntuación
SPECInt por el TDP estándar. Datos precisos al 02/10/2024. El rendimiento real puede variar.
5 Basado en el análisis de Dell comparando la SKU principal soportada en el Dell PowerEdge R7725, con procesador AMD EPYC
de 5ª generación y 192 núcleos Zen 5c, con la SKU principal soportada en el Dell PowerEdge R7625, con procesadores AMD
EPYC de 4ª generación y 128 núcleos Zen 4c. Datos precisos al 02/10/2024. El rendimiento real puede variar.
Basado en el análisis de Dell de las puntuaciones SPECFPRate de la CPU AMD EPYC de 5ª generación 9755, con puntuación de
2270 en el R7725, en comparación con la CPU AMD EPYC de 4ª generación 9754, con puntuación de 1420 en el R7625. Datos
precisos al 02/10/2024. El rendimiento real puede variar.
6 Basado en el análisis de Dell comparando las puntuaciones SPECint y SPECFP de la CPU AMD EPYC de 5ª generación 9965 en
un Dell R7725 (2980 y 2350) con las mismas puntuaciones de un Intel Xeon 8280 en un Dell PowerEdge R740XD (375 y 296). La
proporción de las puntuaciones muestra que 7 servidores R740XD proporcionarían una puntuación total similar a la de un solo
R7725 configurado como se indicó. Las CPUs en un solo R7725 tendrían un TDP total de 1000W (2x500W). Las CPUs en 7x
R740XDs tendrían un TDP total de 2870W (2x205x7), donde cada Intel Xeon 8280 tiene un TDP de 205W. Esto representa una
reducción del 65% en el consumo de energía de la CPU. Datos precisos al 02/10/2024. El rendimiento real puede variar.
7 Basado en el análisis de Dell de las especificaciones que comparan el servidor Dell PowerEdge R67x5 con hasta 22 ranuras de
unidad E3.s con los servidores Dell PowerEdge R66x5 que tienen hasta 16 ranuras de unidad E3.s. Datos recopilados al
02/10/2024.
8 Basado en el análisis de Dell de las especificaciones de los servidores Dell Rx715, que tienen 24 ranuras DIMM, en comparación
con los servidores Dell Rx615, que tienen 12 ranuras DIMM cada uno. Datos precisos al 02/10/2024.
9 Basado en los servidores Dell PowerEdge que lograron puntuaciones récord mundiales para SPECVirt (puntuación de 1-S 4-node
SAN de 3.38 con el Dell PowerEdge R6715, que es un récord mundial para SPECVirt en el nivel de 32 núcleos por sistema) y
TPCx-AI (Puntuaciones de 720,386 @SF3, 864,593 @SF10 con el Dell PowerEdge R6715 son récords mundiales de rendimiento)
al 02/10/2024. El rendimiento real puede variar.
10 Estimación basada en el análisis de Dell en mayo de 2024, comparando el tiempo de configuración de un clúster Kubernetes de
2 nodos para un LLM de uso general utilizando scripts automatizados frente a la implementación manual de un diseño común. El
tiempo de configuración incluye solo la instalación básica. El tiempo de configuración real variará según la configuración de la
solución.