AI está cambiando todo en centros de datos: Nuevo específico de IA papas fritasnuevo técnicas de refrigeramientoy nuevo impulso de almacenamiento. Ahora eVen El método para nutrir el tiempo está comenzando a cambiar, con un anuncio desde el sitio que la compañía ha desarrollado Un nuevo cronómetro que está optimizado para las cargas de trabajo de IA.
La compañía dice que el progreso conducirá a un peculio significativo de energía y menores costos para la capacitación e inferencia de IA. Sitime pudo conseguir estos ahorros utilizando sistemas microelectromecánicos (Mems) como el componente de cronometraje central en emplazamiento del tradicional cuarzo cristales.
Casi todas las partes de una computadora tienen algún tipo de cronómetro. CPU, GPUtarjetas de interfaz de red, interruptores y, a veces, incluso activos interconexiones contienen su propio componente de cronometraje. Para más tradicional computación cargas de trabajo, estas relojes Por lo genérico, se dividen en dos categorías: relojes o relojes rápidos y cronometrados que están aceptablemente sincronizados en múltiples GPU (o CPU), dice Ian Cutressanalista principal de más que Moore y que trabaja con Sitime.
“El problema con la IA es que está haciendo ambas cosas”, dice Cutress. “Desea que su chip vaya lo más rápido posible, pero igualmente desea sincronizarse con 100,000 chips”.
El cronómetro Super-TCXO de Sitime combina la funcionalidad de los relojes ultra-estables y aceptablemente sincronizados en un solo dispositivo, proporcionando una sincronización que es 3 veces más buena que una comparable basada en cuarzo. componente A un orgulloso de lado de 800 gigabits por segundo, en un chip, eso es un cuarto del tamaño.
Un mejor tiempo conduce a ahorros de energía
AI es una bestia hambrienta de datos. Y, sin secuestro, las GPU costosas y de potencia se quedan inactivas 57 por ciento del tiempo Esperando su próximo juego de datos. Si los datos pudieran servirse más rápidamente, las GPU podrían estar de moda en cantidades más pequeñas y de modo más eficaz.
“Necesitas un orgulloso de lado más rápido. Porque necesitas un orgulloso de lado más rápido, necesitas un mejor momento “, dice Piyush SevaliaVicepresidente Ejecutante de Marketing en Sitime.
Adicionalmente, uno puede dosificar mucha potencia si las GPU se pueden poner en modo de suspensión mientras esperan que se carguen más datos, dice Cutress. Esto igualmente requiere un momento más preciso, de modo que el ciclo de sueño-vigilia pueda ocurrir lo suficientemente rápido como para mantenerse al día con el flujo de datos.
Para la IA, los relojes no solo necesitan ser más precisos, sino que igualmente se sincronizan perfectamente en muchas GPU. Ancho Modelos de IA Dividir sus tareas entre muchas GPU, y cada una de las cuales hace una pequeña parte del cálculo. Luego, sus resultados se unen. Si uno GPU Retrajes detrás de los demás, todo el cálculo tendrá que esperar ese nodo. En otras palabras, el cálculo es tan rápido como el enlace más débil. Todas las GPU permanecen excitadas mientras esperan, por lo que cualquier retraso resulta en pérdidas de energía.
Tiempo suspensión para el tiempo de MEMS
El tiempo debe ser preciso, aceptablemente sincronizado y robusto, cualquier agitación mecánica o columpios de temperatura deben ser compensados para asegurar que no desanimen el cálculo. Super-TCXO de Sitime tiene como objetivo combinar los tres requisitos en un solo dispositivo.
Sevalia dice que usar oscilador MEMS en emplazamiento del cuarzo tradicional hace posible esa combinación. Los osciladores de cuarzo usan las vibraciones de los cristales de cuarzo mecanizados con precisión, similar a un horquilla. En contraste, los osciladores MEMS se fabrican, no mecanizados, para resonar a una frecuencia específica. Los dispositivos MEMS pueden ser más pequeños, lo que los hace menos sensibles a las cepas mecánicas. Incluso pueden ser más precisos.
“Los osciladores de cristal han existido desde el principio de los tiempos, ya que el cálculo fue una cosa”, dice Dave Altavillapresidente y analista principal de Hottech Vision & Analysis y quién igualmente trabaja con Sitime. “Hemos mejorado esa tecnología dramáticamente desde su inicio. Pero MEMS da un paso más allá de lo que es capaz un cristal. Así que eso es lo que creo que esta nueva tecnología está desplazando en el mercado es la antigua forma de hacer las cosas “.
Las soluciones basadas en MEMS de Sitime ya tienen poco de éxito: Spectrum-X Switch Silicon de Nvidia ya contiene un dispositivo de sitio.
Sevalia dice que paciencia que la pobreza de que continúen los dispositivos de tiempo basados en MEMS. La compañía ya está planeando dispositivos de orgulloso de lado aún más altos, y esperan que sus innovaciones resulten en aún más ahorros de energía. “Estamos rascando la superficie en este momento en términos de descubrir cuánto eficiencia energética Podemos traer ”, dice Sevalia.
De los artículos de su sitio
Artículos relacionados en la web
