En otro locución salvaje para los chips de IA, Meta firma un acuerdo para millones de CPU de IA de Amazon

Amazon acaba de ganar un gran éxito con Meta gracias, una vez más, a los propios chips de Amazon. Meta ha firmado un acuerdo para utilizar millones de AWS Gravitón chips para satisfacer sus crecientes micción de inteligencia químico, anunció Amazon el viernes.

Tenga en cuenta que AWS Graviton es una CPU basada en ARM (una pelotón de procesamiento central, el chip que maneja las tareas informáticas generales), no una GPU (una pelotón de procesamiento manifiesto).

Si correctamente las GPU siguen siendo el chip favorito para entrenar modelos grandes, una vez que esos modelos están entrenados, los agentes de IA construidos sobre ellos están provocando un cambio en el tipo de chip necesario. Los agentes crean cargas de trabajo que requieren un uso intensivo de enumeración, como razonamiento en tiempo actual, escritura de código, búsqueda y la coordinación involucrada en la mandato de agentes a través de tareas de varios pasos. La última traducción de Graviton de AWS fue diseñada específicamente para manejar las micción informáticas relacionadas con la IA, afirma la compañía.

Este acuerdo devuelve una maduro parte del efectivo de Meta a AWS en ocasión de a competidores como Google Cloud. El pasado mes de agosto, Meta firmó un acuerdo de seis abriles y 10 mil millones de dólares con Google Cloudaunque hasta entonces Meta había sido principalmente un cliente de AWS que incluso usaba Microsoft Azure.

No pudimos evitar notar que AWS programó el anuncio de este acuerdo acordado cuando concluía la conferencia Google Cloud Next, como una sonrisa posible a su rival en la estrato. Google, por supuesto, incluso fabrica sus propios chips de IA personalizados y anunció nuevas versiones de ellos en la feria.

Es cierto que Amazon incluso fabrica su propia GPU de IA: Trainium, que, a pesar de su nombre, se utiliza tanto para entrenamiento como para inferencia, la etapa que ocurre luego de entrenar un maniquí, cuando procesa indicaciones activamente.

Pero Anthropic ya había llegado con un acuerdo anunciado anteriormente. este mes que se apoderó de muchos de esos chips durante los abriles venideros. El fabricante de Claude acordó vestir 100 mil millones de dólares durante 10 abriles para ejecutar sus cargas de trabajo en AWS, con un enfoque particular en Trainium, mientras que Amazon acordó volver otros 5 mil millones de dólares (lo que eleva su total de inversión a 13 mil millones de dólares) en Anthropic a cambio.

En última instancia, el acuerdo Meta le permite a Amazon mostrar un gran cliente de IA como punto de prueba para sus CPU locales. Estos son chips que compiten con la nueva CPU Margen de Nvidia, que incluso está basada en ARM y diseñada para manejar cargas de trabajo de inteligencia químico. La diferencia, por supuesto, es que Nvidia vende sus chips y sistemas de inteligencia químico a empresas y proveedores de estrato (incluido AWS). AWS sólo vende entrada a sus chips a través de su servicio en la estrato.

A principios de este mes, el director ejecutante de Amazon, Andy Jassy apuntó a Nvidia e Intel en su carta anual a los accionistas, diciendo que las empresas quieren mejores relaciones precio-rendimiento para la IA, y que tiene la intención de cerrar acuerdos sobre esa colchoneta. Esto incluso significa que la presión no podría ser maduro sobre el equipo interno de creación de chips de Amazon para cumplir, un equipo que Lo visitamos el mes pasado en un reconvención exclusivo por su laboratorio.