El padre de Facebook, Meta, presentó el 24 de enero AI Research SuperCluster (RSC), que dice que se encuentra entre las supercomputadoras de IA más rápidas del planeta en este momento. Una vez que esté completamente construido a mediados de 2022, Meta afirma que será el más rápido del mundo.
RSC ayudará a los investigadores de IA de Meta a desarrollar mejores modelos de IA capaces de aprender de billones de ejemplos, trabajar en cientos de idiomas, crear nuevas herramientas de RA y más. Más importante aún, RSC permitirá a la empresa realizar avances significativos en aplicaciones impulsadas por IA para construir el metaverso.
Con RSC, podemos entrenar más rápidamente modelos que usan señales multimodales para determinar si una acción, sonido o imagen es dañina o benigna. Esta investigación no solo ayudará a mantener a las personas seguras en nuestros servicios hoy, sino también en el futuro, a medida que construimos para el metaverso.
RSC utiliza un total de 760 sistemas NVIDIA DGX 100 como nodos de cómputo, para un total de 6080 GPU. El nivel de almacenamiento de RSC incluye 175 petabytes de Pure Storage FlashArray, 46 petabytes de almacenamiento en caché y 10 petabytes de Pure Storage FlashBlade.
Meta planea aumentar la cantidad de GPU a 16 000 para fin de año, lo que debería resultar en una mejora de más de 2,5 veces en el rendimiento del entrenamiento de IA. El sistema de almacenamiento, por otro lado, tendrá un ancho de banda de entrega objetivo de 16 TB/s y una capacidad de escala de exabytes.
Los primeros puntos de referencia sugieren que RSC puede ejecutar flujos de trabajo de visión por computadora hasta 20 veces más rápido que los sistemas anteriores de Meta. Mientras que un modelo con decenas de miles de millones de parámetros tardó nueve semanas en terminar el entrenamiento en el sistema anterior de la empresa, el mismo modelo ahora puede terminar el entrenamiento en tres semanas en RSC.
Meta dice que se requiere entrenar “modelos cada vez más grandes y complejos” para desbloquear completamente los beneficios de la IA avanzada para casos de uso como la identificación de contenido dañino en varias plataformas de redes sociales que posee. Se afirma que RSC es capaz de entrenar modelos con conjuntos de datos tan grandes como un exabyte, que es el equivalente a 36 000 años de video de alta calidad.
