Un ex ingeniero de xAI de Elon Musk presentó una demanda contra la compañía y su matriz SpaceX alegando que fue despedido por expresar preocupaciones sobre la seguridad de la IA.
Devin Kim, quien dejó xAI en septiembre de 2025, presentó la demanda en un tribunal estatal de California el martes. La queja llega días antaño de que SpaceX esté despierto para unirse a los mercados públicos en lo que se perfila como la longevo IPO de la historia.
Según el pleitoque ha manido TechCrunch, Kim se convirtió en una voz destacada a valimiento de la seguridad de la IA mientras trabajaba en Grok, el chatbot de IA de xAI. Supuestamente se quejó repetidamente de que xAI no priorizó la seguridad en el crecimiento de Grok, un producto que desde entonces ha sido criticado por una variedad de problemas de seguridad y comportamiento. En particular, a Kim le preocupaba la posibilidad de que Grok pudiera fomentar la discriminación y ayudar a difundir información sobre armas de destrucción masiva.
“Grok, por supuesto, le dio la razón al Sr. Kim al participar en espectaculares demostraciones de odio y vitriolo en sarta, en las que el maniquí se comparó con Hitler (‘MechaHitler‘)”, se lee en la demanda. “Tras la ruina de Hitler, el Sr. Kim trabajó para reevaluar el sesgo político y las tendencias discriminatorias de Grok”.
Unos meses a posteriori de que Kim dejara xAI, Grok volvió a ser nueva cuando el chatbot se utilizó para inundar X, la plataforma de redes sociales de Musk que igualmente cae bajo el paraguas de xAI, con imágenes sexuales no consensuadas.
La demanda igualmente posiciona a Kim como un denunciante preocupado por el supuesto desprecio de xAI por la seguridad de la IA como “ilegal” en áreas como la regulación de Internet, la protección del consumidor y las prácticas comerciales desleales, y la regulación de armas y explosivos, entre otras.
xAI y SpaceX no respondieron de inmediato a las solicitudes de comentarios.
El enfoque de Kim en la seguridad de la IA es preparatorio a su tiempo en xAI. Mientras trabajaba en Scale AI, Kim trabajó en las primeras iniciativas de seguridad de la IA, como liderar un plan que produjo datos de entrenamiento para que la IA entrene a los sistemas para detectar contenido dañino y cumplir con las políticas de gobernanza. La semana pasada, el Centro para la Seguridad de la IA, una ordenamiento sin fines de rendimiento que se centra en los riesgos de la IA, llamado kim como su presidente.
Curiosamente, la demanda no implica al propio Musk como motivo de la desliz de seguridad. Más proporcionadamente, los abogados de Kim describen que Musk ordenó a xAI que siguiera la ley e implementara procesos de prueba y seguridad adecuados. En cambio, el publicidad se dirige al supervisor de Kim, el cofundador de xAI, Jimmy Ba, quien dejó la empresa a principios de este año – diciendo que Ba ignoró las directivas de Musk y tomó represalias contra Kim por presionar para que se implementaran salvaguardias, en un esfuerzo por “silenciar sus repetidas quejas sobre la seguridad y los prejuicios de la IA”.
La demanda retrata a Ba como determinado que se opuso vehementemente a las medidas de seguridad de la IA, supuestamente le dijo a Kim en un momento: “La IA nos matará a todos de todos modos”, y que, en cambio, estaba impulsado por la representación de hacer de xAI el primero en alcanzar la superinteligencia.
“En un caso en agosto de 2025 o rodeando de esa término, el Sr. Ba intentó frustrar las normas de seguridad de la UE durante la publicación de Grok Code 1, tergiversando aspectos del maniquí para evitar las pruebas requeridas legalmente”, dice la denuncia. “El señor Ba indicó que preferiría editar un maniquí inseguro que uno de bajo rendimiento. Al final, el señor Musk tuvo que intervenir”.
Según la demanda, Kim tenía la intención de hacer una presentación de sus hallazgos la semana del 15 de septiembre de 2025, pero Ba lo convocó a una reunión y le dijo que debían “ir por caminos separados” sin darle una razón satisfactoria.
TechCrunch se ha puesto en contacto con Ba para hacer comentarios.
Kim sondeo daños compensatorios y punitivos, así como una sentencia declarativa de que la conducta de xAI y SpaceX fue ilegal.
Cuando negocio a través de enlaces en nuestros artículos, podemos obtener una pequeña comisión. Esto no afecta nuestra independencia editorial.
Observar más Tech News in Spanish
