Anthrope respalda la nota de seguridad de IA de California, SB 53

El lunes, antrópico anunciado un respaldo oficial de SB 53un plan de ley de California del senador estatal Scott Wiener que impondría los requisitos de transparencia de primera en la nación a los desarrolladores de modelos de IA más grandes del mundo. El respaldo de Anthrope marca una trofeo rara y importante para SB 53, en un momento en que los principales grupos tecnológicos como CTA y Cámara para el progreso están presionando contra el plan de ley.

“Si admisiblemente creemos que la seguridad de la IA fronteriza se aborda mejor a nivel federal en zona de un baldosa de regulaciones estatales, los poderosos avances de IA no esperarán el consenso en Washington”. dijo Anthrope en una publicación de blog. “La pregunta no es si necesitamos gobernanza de IA, es si lo desarrollaremos cuidadosamente hoy o reactivo mañana. SB 53 ofrece un camino sólido cerca de los primeros”.

Si se pasa, SB 53 Requeriría que los desarrolladores de modelos de IA fronterizos como OpenAI, Anthrope, Google y XAI desarrollen marcos de seguridad, así como de difundir informes de seguridad pública antiguamente de implementar modelos de IA potentes. El plan de ley igualmente establecería protecciones de denunciantes para empleados que presentan problemas de seguridad.

El plan de ley del senador Wiener se enfoca específicamente en impedir los modelos de IA que contribuyen a “riesgos catastróficos”, que el plan de ley define como la homicidio de al menos 50 personas o más de mil millones de dólares en daños. SB 53 se centra en el flanco extremo del aventura de IA, limitando los modelos de IA de ser utilizados para proporcionar cooperación a nivel hábil en la creación de armas biológicas o ser utilizados en ataques cibernéticos, en zona de preocupaciones más a corto plazo como los defensores o la sycofancia de IA.

El Senado de California aprobó una interpretación inicial de SB 53, pero aún necesita realizar una votación final sobre el plan de ley antiguamente de que pueda avanzar al escritorio del jefe. El jefe Gavin Newsom se ha quedado en silencio sobre el plan de ley hasta ahora, aunque él El extremo plan de ley de seguridad de IA del senador vetado WeinerSB 1047.

Bills que regulan los desarrolladores del maniquí de IA fronteriza han enfrentado rechazo significativo tanto de Silicon Valley como de la sucursal Trump, que argumentan que tales esfuerzos podrían impedir la innovación de Estados Unidos en la carrera contra China. Inversores como Andreessen Horowitz e Y Combinator lideraron parte del retroceso contra SB 1047y en los últimos meses, la sucursal Trump ha repetidamente amenazado Para impedir que los estados pasen la regulación de IA por completo.

Uno de los argumentos más comunes contra los proyectos de ley de seguridad de la IA es que los estados deberían dejar el asunto a los gobiernos federales. El dirigente de política de AI de Andreessen Horowitz, Matt Perault, y director procesal, Jai Ramaswamy, publicó un blog La semana pasada, argumentando que muchos de los proyectos de ley de IA estatales de hoy corren el aventura de violar la cláusula de comercio de la Constitución, lo que limita que los gobiernos estatales aproben leyes que van más allá de sus fronteras y perjudican el comercio interestatal.

Sin secuestro, el cofundador anthrope Jack Clark argumenta en un Difundir en x Que la industria tecnológica construirá poderosos sistemas de IA en los próximos primaveras y no puede esperar a que actúe el gobierno federal.

“Hemos dicho durante mucho tiempo que preferiríamos un en serie federal”, dijo Clark. “Pero en desaparición de eso, esto crea un plano sólido para la gobernanza de AI que no se puede ignorar”.

El director de Asuntos Globales de Openai, Chris Lehane, envió un carta al jefe Newsom en agosto argumentando que no debería aprobar ninguna regulación de IA que expulse a las startups de California, aunque la carta no mencionó SB 53 por su nombre.

El ex Cabecilla de Investigación de Políticas de Openai, Miles Brundage, dijo en un correo En X, esa carta de Lehane estaba “llena de basura engañosa sobre SB 53 y la política de IA en militar”. En particular, SB 53 tiene como objetivo regular nada más las compañías de IA más grandes del mundo, particularmente las que generaron un ingreso bruto de más de $ 500 millones.

A pesar de las críticas, los expertos en políticas dicen que SB 53 es un enfoque más modesto que las facturas de seguridad de IA anteriores. Dean Ball, miembro senior de la Fundación para la Innovación Chaqueta y el ex Asesor de Política de AI de la Casa Blanca, dijo en un agosto blog Que él cree que SB 53 tiene una buena oportunidad de convertirse en ley. Ball, quien criticó a SB 1047, dijo que los redactores de SB 53 han “mostrado respeto por la efectividad técnica”, así como una “medida de restricción legislativa”.

Senador Wiener anteriormente dicho que SB 53 fue fuertemente influenciado por un panel de políticas de expertos El jefe Newsom se convocó, co-liderado por el destacado investigador de Stanford y cofundador de World Labs, Fei-Fei Li, para asesorar a California sobre cómo regular la IA.

La mayoría de los laboratorios de IA ya tienen alguna interpretación de la política de seguridad interna que requiere SB 53. Operai, Google Deepmind y Anthrope publican regularmente informes de seguridad para sus modelos. Sin secuestro, estas compañías no están obligadas por nadie más que en sí mismas, y a veces ellos quedarse antes su Compromisos de seguridad autoimpuestos. SB 53 tiene como objetivo establecer estos requisitos como ley estatal, con repercusiones financieras si un laboratorio de IA no cumple.

A principios de septiembre, los legisladores de California enmendado SB 53 para eliminar una sección del plan de ley que habría requerido que los desarrolladores de modelos de IA fueran auditados por terceros. Las compañías tecnológicas han luchado contra este tipo de auditorías de terceros en otras batallas de políticas de inteligencia sintético anteriormente, argumentando que son demasiado pesados.