Han aumentado las quejas sobre la nueva función de ‘editar imagen’ de Grok que algunos usuarios de X aprovecharon para desnudar digitalmente a las personas.
Publicado el 5 de enero de 2026
La Comisión Europea ha condenado la difusión de contenido palmario e de niño en la plataforma de redes sociales X, calificando el material de “espantoso” y “repugnante”.
El portavoz de asuntos digitales de la Unión Europea, Thomas Regnier, hizo los comentarios a los periodistas el lunes tras semanas de quejas sobre una nueva función en X. Chatbot de IA integrado Grok Se utiliza para gestar contenido pornográfico, incluida la representación de niños.
Historias recomendadas
registro de 4 artículosfin de la registro
“Grok ahora ofrece un ‘modo picante’ que muestra contenido sexual palmario con algunos resultados generados con imágenes infantiles”, dijo Regnier. “Esto no es picante. Esto es ilegal. Esto es espantoso. Esto es repugnante”.
Regnier dijo que la Comisión Europea está “investigando muy seriamente” el asunto y que ese contenido “no tiene cabida en Europa”.
Mientras tanto, la fiscalía de París, Francia, amplió una investigación sobre X para incluir acusaciones de que Grok, creado por la empresa xAI de Elon Musk, se ha utilizado para gestar y difundir pornografía de niño.
‘Esperando ser armado’
A finales de diciembre, una novedosa función de “editar imagen” en Grok permitió a los usuarios modificar cualquier imagen en la plataforma. Algunos usuarios decidieron pedirle a Grok que quitara total o parcialmente la ropa a mujeres o niños en las fotografías.
Grok cumplió con numerosas solicitudes de usuarios para modificar fotografías de mujeres para representarlas con atuendos reveladores, como bikinis translúcidos.
Grok admitió el viernes “fallos en las salvaguardias” y dijo que los está “arreglando urgentemente”. “CSAM (material de despotismo sexual de niño) es ilegal y está prohibido”, decía en una publicación.
Pero los expertos en seguridad de IA dijeron que la plataforma ignoró meses de advertencias de que tal despotismo era inminente.
“En agosto, advertimos que la coexistentes de imágenes de xAI era esencialmente una útil de nudificación que esperaba ser utilizada como armamento”, dijo Tyler Johnston, director ejecutante del orden de vigilancia de la IA The Midas Project. “Eso es básicamente lo que sucedió”.
X, que Musk adquirido en 2022ya se ha enfrentado a una reacción violenta de la UE por sus políticas sobre publicidad y moderación de contenidos.
En diciembre, Bruselas impuso a la plataforma una multa de 120 millones de euros (140 millones de dólares) por violar las normas de contenido digital de la UE sobre transparencia en la publicidad y por los métodos para corroborar a los usuarios.
x todavía sigue bajo investigación en virtud de la Ley de Servicios Digitales de la UE en una investigación que comenzó en diciembre de 2023.
Grok tiene un historial polémico, incluso por gestar contenido ahistórico y repleto de prejuicios. El año pasado, la compañía de Musk eliminó publicaciones del chatbot que parecían elogiar a Adolf Hitler a posteriori denuncias de contenido antisemita.
Acertar más Politics News in Spanish