Durante meses, los gigantes tecnológicos han implementado programas de verificación y estrictas barreras de seguridad para limitar el uso de sus modelos de inteligencia artificial por parte de piratas informáticos malintencionados. Sin embargo, estas restricciones están comenzando a obstaculizar el trabajo esencial de los defensores de la red y de los investigadores de ciberseguridad ofensiva.
Restricciones gubernamentales y el impacto en los modelos avanzados
En junio, el gobierno de Estados Unidos impuso restricciones de control de exportaciones sobre los populares modelos de IA de Anthropic, Mythos y Fable. Esta medida fue motivada, en parte, por informes que señalaban la posibilidad de sortear las barreras de seguridad diseñadas para evitar la creación y ejecución de ciberataques maliciosos.
Independientemente de si el incidente estuvo impulsado por temores reales o exagerados, Anthropic ha comercializado repetidamente a Mythos como una poderosa herramienta que solo debe entregarse a usuarios rigurosamente examinados bajo estrictas medidas de control.
Este tipo de supervisión no es exclusivo de Mythos. Tanto Anthropic como OpenAI ofrecen a los investigadores programas especiales de acceso para utilizar modelos con menores restricciones, como el programa de Acceso Confiable para Cibernética de OpenAI y el software de validación cibernética de Anthropic.
El dilema de la doble funcionalidad: ¿herramienta de defensa o arma?
Estas barreras de seguridad han generado fuertes críticas por parte de profesionales cuya labor consiste en descubrir vulnerabilidades desconocidas en los sistemas y desarrollar formas de explotarlas antes de que lo hagan los ciberdelincuentes.
Durante una reciente aparición en un podcast especializado, el reconocido investigador de seguridad Mark Dowd criticó que grandes empresas tecnológicas tomen decisiones arbitrarias sobre lo que se considera seguro. Dowd, con décadas de experiencia en la detección de vulnerabilidades del tipo “zero-day”, argumenta que el mismo código utilizado para parchear un fallo puede servir como una hoja de ruta para encontrar fallas críticas.
“Es como un martillo”, explicó Chris Anley, director de investigación de NCC Group. “No se puede construir una casa sin un martillo. Definitivamente es una herramienta, pero también es irreductiblemente un arma”.
Alternativas y el riesgo de migrar hacia modelos sin restricciones
Ante los constantes obstáculos con los modelos comerciales, muchos expertos recurren a alternativas de código abierto que carecen de filtros de seguridad. Paolo Stagno, director de tecnología de CrowdFense, señala que las restricciones actuales tratan a los clientes de forma excesivamente proteccionista.
Por su parte, Chris Thompson, director ejecutivo de RemoteThreat y fundador de Offensive AI Con, advierte que los investigadores pierden demasiado tiempo negociando con el modelo de IA debido a la inconsistencia de sus filtros.
“Los investigadores responsables están siendo desplazados de los sistemas regulados en Estados Unidos hacia sistemas de propiedad extranjera y de código abierto”, advierte Thompson, sugiriendo que los laboratorios de IA deberían abrir sus programas y responsabilizar directamente a quienes abusen de las herramientas en lugar de imponer barreras excesivas que perjudican a los defensores.
Cuando compras a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
Descubre más en Tech News en Español
