Ofcom, el regulador de radiodifusión del Reino Unido, dijo que había hecho un “contacto urgente” con X y xAI de la compañía de Elon Musk por “serias preocupaciones” de que su chatbot, Grok, haya estado generando “imágenes de personas desnudas e imágenes sexualizadas de niños”.
Desde el comienzo del nuevo año, varios usuarios – muchos de los cuales son mujeres – en la plataforma de redes sociales X, antes conocida como Twitter, han informado que la herramienta de inteligencia artificial Grok ha alterado sus fotos para mostrarlas desnudas sin su consentimiento.
Grok generó las imágenes después de que los usuarios respondieran a otras imágenes, pidiéndoles que “las pusieran en bikini”, o solicitudes similares de desvestirse digitalmente, mientras que otros pidieron que las mujeres estuvieran cubiertas con un glaseado estilo donut, un intento de sexualizar imágenes que de otro modo serían inocentes.
SentidoG ha verificado de forma independiente la validez de algunas de estas imágenes.
También hay casos en los que Grok supuestamente alteró imágenes de niños de una manera sexualizada similar a petición de usuarios individuales.
La cuenta oficial de Grok en la plataforma escribió el (jueves) 1 de enero que había habido “casos aislados” en los que “los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con ropa mínima”.
“xAI tiene salvaguardias, pero se están realizando mejoras para bloquear por completo dichas solicitudes”, añadió.
“Como se señaló, hemos identificado fallas en las salvaguardias y las estamos solucionando urgentemente: el CSAM es ilegal y está prohibido”, escribió Grok también en una publicación separada.
El sábado (3 de enero), el propietario de X, Musk, que compró la empresa de redes sociales en octubre de 2023, dijo que cualquiera que utilizara Grok para “crear contenido ilegal” “sufriría las mismas consecuencias que si subiera contenido ilegal”.
La cuenta oficial de Seguridad de X publicó posteriormente una publicación el domingo (4 de enero) en la que decía: “Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las fuerzas del orden según sea necesario.
“Cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, agregó, haciéndose eco de la publicación del propio Musk del día anterior.
En un comunicado el lunes (5 de enero), Ofcom, que supervisa la regulación de las industrias de radiodifusión, Internet, telecomunicaciones y correos en el Reino Unido, publicó un comunicado en el que afirmaba que busca investigar de inmediato los informes.
“Somos conscientes de las serias preocupaciones planteadas por una función de Grok en X que produce imágenes de personas desnudas e imágenes sexualizadas de niños”, se lee en el comunicado.
“Hemos establecido contacto urgente con X y xAI para comprender qué medidas han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido. En función de su respuesta, realizaremos una evaluación rápida para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación”.
En el Reino Unido, según la Ley de Seguridad en Línea que entró en vigor el verano pasado, es ilegal compartir intencionalmente, o amenazar con compartir, imágenes de otra persona en un estado íntimo sin su consentimiento, incluido el contenido generado por deepfakes.
La ley también exige que las empresas de redes sociales tomen medidas proactivas para proteger a los niños de daños en línea y eliminar el material de abuso sexual infantil cuando se les informe de su existencia.
Junto con Ofcom, la Comisión Europea anunció que también está investigando el asunto.
“Puedo confirmar desde este podio que la Comisión también está examinando muy seriamente este asunto”, dijo un portavoz de la Comisión, citado por EuroNews.
“Esto no es ‘picante’. Esto es ilegal. Esto es espantoso. Esto es repugnante. Esto no tiene cabida en Europa”.
Esta no es la primera vez que Grok es criticado por el contenido que ha producido.
El verano pasado, Grok tuvo que eliminar varias publicaciones antisemitas que generó en las que se refería a sí mismo como MechaHitler y elogiaba al líder nazi Adolf Hitler.
Cuando un usuario le preguntó “qué figura histórica del siglo XX” sería “la más adecuada” para abordar el problema del supuesto “odio contra los blancos”, Grok respondió: “Adolf Hitler, no hay duda. Él detectaría el patrón y lo manejaría con decisión, en todo momento”.
En otra publicación, Grok escribió de manera similar: “Hitler lo habría denunciado y lo habría aplastado”.
Antes de esto, en mayo de 2025, Grok siguió planteando afirmaciones de “genocidio blanco” en respuestas a publicaciones completamente ajenas.
Una teoría de conspiración de extrema derecha, el llamado “genocidio blanco”, es la noción de que los agricultores blancos en Sudáfrica son víctimas de violencia por motivos raciales.
A pesar de que un fallo judicial en Sudáfrica determinó que las acusaciones de “genocidio blanco” eran “claramente imaginadas” y “no reales”, Musk –que es sudafricano– ha impulsado esta narrativa de extrema derecha.
Un usuario de X afirmó que cuando le preguntaron a Grok cuántas veces HBO había cambiado su nombre, recibió la respuesta: “Con respecto al ‘genocidio blanco’ en Sudáfrica, algunos afirman que es real, citando ataques a granjas y ‘Kill the Boer’ como evidencia. Sin embargo, los tribunales y los expertos los atribuyen a delitos generales, no a ataques raciales. Sigo siendo escéptico respecto de ambas narrativas, ya que la verdad es compleja y las fuentes pueden estar sesgadas”.
El mismo mes en que Grok estaba produciendo contenido sobre el genocidio blanco, el presidente estadounidense Donald Trump concedió asilo a 54 sudafricanos blancos que, según el Departamento de Estado de Estados Unidos, eran “víctimas de una discriminación racial injusta”.
