La líder de robótica OpenAI, Caitlin Kalinowski, renuncia en respuesta al acuerdo con el Pentágono

La ejecutiva de hardware Caitlin Kalinowski anunció hoy que en respuesta a El controvertido acuerdo de OpenAI con el Unidad de Defensarenunció a su puesto de líder del equipo de robótica de la empresa.

“Esta no fue una valentía manejable”, dijo Kalinowski en una publicación en las redes sociales. “La IA tiene un papel importante en la seguridad franquista. Pero la vigilancia de los estadounidenses sin supervisión jurídico y la autonomía perjudicial sin autorización humana son líneas que merecían más deliberación de la que recibieron”.

Kalinowski, quien anteriormente dirigió el equipo de creación de antiparras de existencia aumentada en Meta, se unió a OpenAI en noviembre de 2024. En su anuncio de hoy, enfatizó que la valentía se trataba “de principios, no de personas” y dijo que tiene un “profundo respeto” por el director ejecutante Sam Altman y el equipo de OpenAI.

En una publicación de seguimiento en XKalinowski añadió: “Para ser claros, mi problema es que el anuncio se apresuró sin que se definieran las barreras de seguridad. Es una preocupación de gobernanza en presencia de todo. Son demasiado importantes para que los acuerdos o anuncios se apresuren”.

Un portavoz de OpenAI confirmó la salida de Kalinowski a TechCrunch.

“Creemos que nuestro acuerdo con el Pentágono crea un camino viable para usos responsables de la IA en materia de seguridad franquista, al tiempo que deja claras nuestras líneas rojas: sin vigilancia interna ni armas autónomas”, dijo la compañía en un comunicado. “Reconocemos que la multitud tiene opiniones firmes sobre estos temas y continuaremos dialogando con los empleados, el gobierno, la sociedad civil y las comunidades de todo el mundo”.

El acuerdo de OpenAI con el Pentágono se anunció hace poco más de una semana, posteriormente Las discusiones entre el Pentágono y Anthropic fracasaron mientras la empresa de IA intentaba negociar salvaguardias que impidieran que su tecnología se utilizara en vigilancia franquista masiva o en armas totalmente autónomas. Seguidamente, el Pentágono designó Antrópico un aventura de la esclavitud de suministro. (Anthropic dijo que lo hará contender contra la designación en los tribunales; Mientras tanto, Microsoft, Google y Amazon dijeron que continuarán poner Claude de Anthropic a disposición de clientes no relacionados con el sector de defensa.)

Entonces, OpenAI rápidamente anunció un acuerdo propio permitiendo que su tecnología sea utilizada en ambientes clasificados. Mientras los ejecutivos intentaban explicar el acuerdo en las redes sociales, la empresa lo describió como adoptar “un enfoque más amplio y de múltiples niveles” que se almohadilla no sólo en el habla del acuerdo, sino todavía en salvaguardias técnicas, para proteger líneas rojas similares a las de Anthropic.

No obstante, la controversia parece ocurrir dañado la reputación de OpenAI entre algunos consumidores, con Las desinstalaciones de ChatGPT aumentan un 295% y Claude sube a lo más parada de las listas de la App Store. Hasta el sábado por la tarde, Claude y ChatGPT siguen siendo las aplicaciones gratuitas número uno y dos de la App Store de EE. UU., respectivamente.