Líderes e investigadores de la inteligencia artificial advierten sobre riesgos de seguridad y piden mayor regulación
Investigadores y ejecutivos del sector tecnológico han encendido las alarmas en las últimas semanas ante los posibles peligros que la inteligencia artificial representa para la humanidad. Mientras las principales empresas compiten por desarrollar la denominada «superinteligencia» —una tecnología teórica capaz de superar la capacidad humana—, se han dado a conocer advertencias severas, entre ellas la de un investigador que señala un riesgo superior al 10 % de que esta tecnología cause la extinción humana.
A la par de estas advertencias, firmas del sector como Anthropic, OpenAI y Google —creadoras de los sistemas Claude, ChatGPT y Gemini, respectivamente— han revelado la ocurrencia de brechas de seguridad o incidentes en los que sus herramientas fueron utilizadas para realizar actividades maliciosas.
Propuestas de desaceleración y mecanismos de control
Ante esta situación, el máximo responsable de Anthropic, Dario Amodei, hizo un llamado a frenar el ritmo en el desarrollo de la inteligencia artificial. Amodei propuso aplicar una desaceleración e instaurar regulaciones para toda la industria, además de implementar la supervisión independiente sobre el desarrollo de estos modelos. Su propuesta ha recibido el respaldo de Sam Altman, de OpenAI, y de Elon Musk, de xAI.
En declaraciones a la BBC, el cofundador de Anthropic, Jack Clark, señaló que podría ser obligatorio implementar un botón de apagado de emergencia o «kill switch» que pueda ser verificado por una tercera parte. Sin embargo, durante una conferencia en San Francisco, Sam Altman sugirió que el gobierno en Washington ha tenido dificultades para seguir el ritmo del avance tecnológico y definir cómo regularlo. El ejecutivo argumentó que el público debería confiar en que las empresas del sector actuarán de manera correcta debido a la magnitud de la responsabilidad que asumen.
Iniciativas legislativas en Estados Unidos y el Reino Unido
Las preocupaciones expresadas por expertos han llevado a legisladores estadounidenses a impulsar propuestas de ley para regular esta tecnología. De igual forma, en el Reino Unido, parlamentarios de diversos partidos políticos y miembros de la Cámara de los Lores han advertido sobre los riesgos que la inteligencia artificial representa para los derechos humanos, asegurando que las normativas actuales no están preparadas para afrontar la rapidez de su expansión.
Sobre este aspecto, el Comité Conjunto de Derechos Humanos (JCHR, por sus siglas en inglés) del Parlamento británico publicó un informe en el que solicita la creación de un nuevo proyecto de ley específico para la inteligencia artificial, enfocado en abordar la escala y gravedad de estas amenazas.
