Los funcionarios indonesios dijeron el sábado que están bloqueando temporalmente el entrada al chatbot Grok de xAI.

Esta es una de las medidas más agresivas hasta ahora por parte de funcionarios del gobierno. respondiendo a una avalancha de imágenes sexualizadas generadas por IA – a menudo representando mujeres y menores reales, y a veces mostrando ataque y tropelía — publicado por Grok en respuesta a las solicitudes de los usuarios de la red social X. (X y xAI son parte de la misma empresa).

En una exposición compartida con The Guardian y otras publicaciones, el ministro digital y de comunicaciones de Indonesia, Meutya Hafid, dijo: “El gobierno considera la praxis de deepfakes sexuales no consensuales como una formal violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.

Según se informa, el profesión igualmente convocó a funcionarios de X para discutir el tema.

Las diversas respuestas gubernamentales durante la semana pasada incluyen una orden del Profesión de TI de la India para que xAI tome medidas para evitar que Grok genere contenido obsceno, así como una orden de la Comisión Europea para que la empresa conserve todos los documentos relacionados con Grok, lo que podría estar preparando el escena para una investigación.

En el Reino Unido, el regulador de comunicaciones Ofcom ha dicho que “realizará una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”. El primer ministro Keir Starmer dijo en una entrevista que Ofcom tiene su “pleno apoyo para tomar medidas”.

Y aunque en Estados Unidos, la oficina Trump parece velar silencio sobre el tema (el director ejecutante de xAI, Elon Musk, es un importante donante de Trump y dirigió el controvertido Área de Eficiencia Ministerial de la oficina el año pasado), los senadores demócratas han llamó a Apple y Google para eliminar X de sus tiendas de aplicaciones.

xAI respondió inicialmente por imprimir una disculpa aparentemente en primera persona a la cuenta de Grok, reconociendo que una publicación “violó los estándares éticos y potencialmente las leyes estadounidenses” en torno al material de tropelía sexual pueril. Más tarde restringió la función de concepción de imágenes de IA a los suscriptores de plazo en X, aunque esa restricción no pareció afectar a la aplicación Grok en sí, que aún permitía a cualquiera difundir imágenes.

En respuesta a una publicación que preguntaba por qué el gobierno del Reino Unido no estaba tomando medidas contra otras herramientas de concepción de imágenes de IA, almizcle escribió“Quieren cualquier excusa para la censura”.