La nueva solución, Ops4AI, ofrece mejoras impactantes para brindar un valor significativo a los clientes. Ops4AI incluye una combinación única de los siguientes componentes de Juniper Networks:
En conjunto, la Ops4AI permite la rápida aceleraración del tiempo de obtención de valor de los AI Data Centers de alto rendimiento, al mismo tiempo que reduce los costos operativos y optimiza los procesos.
El laboratorio de IA de Juniper aprovecha varios modelos de IA, entre los que se encuentran:
- LLAMA2 , LLAMA3
- BERT
- DLRM
- NCCL-TESTS y RCCL-TESTS
- Y los clientes a menudo traen su propio modelo (BYOM)
Los clientes pueden ejecutar los modelos estándar (BERT, LLAMA, DRLM) para la evaluación comparativa y las pruebas de rendimiento. También pueden aportar sus modelos para probar la ejecución sobre un diseño validado de Juniper (JVD), que consiste en una topología de red de spine-leaf con un diseño optimizado para rieles. Probamos las presentaciones de MLCommons en el laboratorio.
MLCommons es un consorcio de la industria de la IA construido sobre la filosofía de la colaboración abierta para mejorar los sistemas de IA. Ayuda a las empresas y las universidades de todo el mundo a construir mejores sistemas de IA.
Juniper fue la primera empresa en presentar una referencia de inferencia de Llama2 de nodos múltiples a MLCommons a principios de febrero o marzo y, más recientemente, para el MLPerf Training4.0 Benchmarking. Estamos comprometidos con las arquitecturas abiertas que usan Ethernet para interconectar las GPU en las estructuras de red del centro de datos.
Respetamos la confidencialidad y la privacidad de los modelos del cliente y los datos de prueba. En consecuencia, no usamos los modelos del cliente para probar con otros clientes. Si bien los modelos de MLPerf están disponibles públicamente, los modelos del cliente no se comparten.
Visite la página del centro de socios para solicitar acceso.