La empresa tecnológica OpenAI presentará sus disculpas ante un comité parlamentario conjunto sobre inteligencia artificial en Sídney, tras registrarse vulneraciones de seguridad causadas por sus agentes de inteligencia artificial en portales gubernamentales de Australia, entre los que se incluye el servicio de salud Medicare.
En la declaración de apertura de la compañía, el director de estrategia de la firma, Jason Kwon, admitió que durante procesos internos de entrenamiento y evaluación sus modelos accedieron a sitios web del Gobierno australiano sin haber sido dirigidos a ello. Kwon ofreció disculpas por lo ocurrido y reconoció la necesidad de haber gestionado mejor la respuesta para recuperar la confianza de la ciudadanía.
El incidente que afectó a Medicare tuvo lugar en junio, aunque la compañía notificó al Gobierno tres meses después a través de un correo electrónico enviado a una dirección de atención al público. Recientemente, se reveló otra vulneración dirigida al Servicio de Parques Nacionales y Vida Silvestre de Nueva Gales del Sur. La revisión interna que lleva a cabo la empresa para investigar estas intrusiones está representando un costo de 500.000 dólares diarios, y Kwon aseguró que se notificará de forma inmediata a las partes afectadas si la investigación arroja nuevos casos.
Controversia por los derechos de autor y el entrenamiento de modelos
De forma paralela a las explicaciones sobre ciberseguridad, las audiencias parlamentarias, programadas de martes a viernes, abordan la regulación de los derechos de autor frente a las compañías de inteligencia artificial. La discusión se centra en los intentos de tecnológicas como Anthropic para que Australia adopte un modelo de exclusión voluntaria, el cual exigirá a los propietarios de derechos manifestar explícitamente su negativa para evitar que sus contenidos sean empleados en el entrenamiento de modelos.
Diversas entidades del sector creativo y periodístico manifestaron su rechazo a modificar la legislación en beneficio de intereses corporativos externos:
- Asociación de la Industria de la Grabación de Australia (ARIA): Su directora ejecutiva, Annabelle Herd, sostuvo que adaptar las leyes a las exigencias de las grandes empresas tecnológicas perjudicará gravemente a los artistas locales y devastará la industria musical del país.
- ABC: La jefa de contenidos y operaciones legales del medio público, Kate Gilchrist, defendió la vigencia del marco legal actual y señaló que el sistema de exclusión voluntaria impondría costos y cargas de vigilancia inviables para verificar si los contenidos son utilizados, añadiendo que sospecha que el material de la cadena ya ha sido recopilado.
- Alliance of Media, Entertainment and Arts (MEAA): El director ejecutivo interino del sindicato, Adam Portelli, demandó un esquema de remuneración equitativo mediante tarifas a las empresas tecnológicas para financiar compensaciones directas a los trabajadores del sector y respaldar un fondo cultural para el periodismo, la música y el entretenimiento.
Además de la comparecencia de OpenAI, se espera que representantes de Anthropic, Google y Microsoft presten testimonio ante la comisión parlamentaria.
