Legisladores del estado de Nueva York aceptado un esquema de ley El jueves, eso tiene como objetivo evitar que los modelos de IA fronterizos sean de OpenAi, Google y antrópico contribuyan a escenarios de desastres, incluida la asesinato o lisiadura de más de 100 personas, o más de $ 1 mil millones en daños.
La aprobación de la Ley de aumento representa una triunfo para el movimiento de seguridad de IA, que tiene El contorno perdido en los últimos abriles Como Silicon Valley y la despacho Trump han priorizado la velocidad y la innovación. Los defensores de la seguridad, incluido el premio Nobel Geoffrey Hinton y el pionero de investigación de IA, Yoshua Bengio, han defendido la Ley de Aumento. Si se convierta en ley, el esquema de ley establecería el primer conjunto de estándares de transparencia legalmente obligatorios para los laboratorios de IA fronterizos.
La Ley de aumento tiene algunas de las mismas disposiciones y objetivos que La controvertida elaboración de seguridad de IA de California, SB 1047, que fue finalmente vetado. Sin bloqueo, el copatrocinador del esquema de ley, el senador del estado de Nueva York, Andrew Gounardes, le dijo a TechCrunch en una entrevista que diseñó deliberadamente la Ley de Aumento de tal forma que no relaciona la innovación entre las nuevas empresas o los investigadores académicos, una crítica popular de SB 1047.
“La ventana para colocar las barandillas se reduce rápidamente regalado lo rápido que está evolucionando esta tecnología”, dijo el senador Gounardes. “Las personas que saben (ai) dicen que estos riesgos son increíblemente probables (…) eso es preocupante”.
La Ley de aumento ahora se dirige al escritorio del dirigente de Nueva York Kathy Hochul, donde podría firmar el esquema de ley, enviarlo de regreso para enmiendas o vetarlo por completo.
Si se firma, el esquema de ley de seguridad de IA de Nueva York requeriría que los laboratorios de inteligencia artificiosos más grandes del mundo publiquen informes exhaustivos de seguridad en sus modelos de IA fronterizos. El esquema de ley además requiere que los laboratorios de IA reporten incidentes de seguridad, como en relación con el comportamiento del maniquí de IA o los malos actores que roban un maniquí de IA, si suceden. Si las empresas tecnológicas no están a la cima de estos estándares, la Ley de Aumento faculta al Fiscal Militar de Nueva York para traer sanciones civiles de hasta $ 30 millones.
La Ley de aumento tiene como objetivo regular por poco las empresas más grandes del mundo, ya sea en California (como OpenAi y Google) o China (como Deepseek y Alibaba). Los requisitos de transparencia del esquema de ley se aplican a las empresas cuyos modelos de IA fueron capacitados utilizando más de $ 100 millones en posibles informáticos (aparentemente, más que cualquier maniquí de IA apto en la ahora), y se están poniendo a disposición de los residentes de Nueva York.
Si aceptablemente es similar a SB 1047 de alguna forma, la Ley de Aumento se diseñó para afrontar las críticas de los proyectos de ley de seguridad de IA anteriores, según Nathan Calvin, el Vicepresidente de Asuntos Estatales y el Asesor Militar de ENCODE, que trabajó en este esquema de ley y SB 1047, en particular, el ACT de ACEA no requiere que los desarrolladores de modelos de IA incluyan un “cambio de matar” en sus modelos, ni lo hace a las empresas que tienen las compañías que poseen los modelos AI de la AI.
Sin bloqueo, Silicon Valley ha rechazado significativamente el esquema de ley de seguridad de IA de Nueva York, el AsambleMember del Estado de Nueva York y copatrocinador de la Ley de Aumento, Alex Bores a TechCrunch. Bors calificó la resistor de la industria no sorprendente, pero afirmó que la Ley de aumento no limitaría la innovación de las empresas tecnológicas de ninguna forma.
“El acto de aumento de Nueva York es otro estúpido y estúpido estúpido nivel estatal AI Bill que solo lastimará a los Estados Unidos en un momento en que nuestros adversarios están corriendo por delante”, dijo Andreessen Horowitz, su compañero caudillo Anjney Midha en un Publicación del viernes en x. Andreessen Horowitz y Startup Incubator Y Combinator fueron algunos de los oponentes más feroces de SB 1047.
Antrópico, el laboratorio de IA centrado en la seguridad que pidió transparencia federal StametaDards para compañías de IA A principios de este mes, no ha aprehendido una postura oficial sobre el esquema de ley, dijo el cofundador Jack Clark en un Publicación del viernes en x. Sin bloqueo, Clark expresó algunas quejas sobre cuán amplia es el acto de aumento, señalando que podría presentar un aventura para las “empresas más pequeñas”.
Cuando se le preguntó sobre las críticas de Anthrope, el senador estatal Gounardes le dijo a TechCrunch que pensó que “pierde la marca”, señalando que diseñó el esquema de ley para no postularse a las pequeñas empresas.
Operai, Google y Meta no respondieron a la solicitud de comentarios de TechCrunch.
Otra crítica popular de la Ley de aumento es que los desarrolladores de modelos de IA simplemente no ofrecerían sus modelos de IA más avanzados en el estado de Nueva York. Esa fue una crítica similar presentada contra SB 1047, y es en gran medida lo que se desarrolla en Europa gracias a las difíciles regulaciones del continente sobre tecnología.
El ensamblador de Bores le dijo a TechCrunch que la carga regulatoria de la Ley de aumento es relativamente ligera y, por lo tanto, no debería requerir que las compañías tecnológicas dejen de especular sus productos en Nueva York. Poliedro el hecho de que Nueva York tiene el tercer PIB más ínclito en los Estados Unidos, retirarse del estado no es poco que la mayoría de las empresas tomarían a la ligera.
“No quiero subestimar la mezquindad política que podría suceder, pero estoy muy seguro de que no hay una razón económica para que (las compañías de IA) no pongan sus modelos a disposición en Nueva York”, dijo el asambleo Bore.
(Tagstotranslate) AI Safety
Descubrir más Tech News in Spanish
