El multimillonario tecnológico Elon Musk anunció que el chatbot de X, Grok, ahora puede generar videos de inteligencia artificial de hasta 10 segundos de duración compartiendo un video con la imagen de Sydney Sweeney.
Es un acontecimiento que se produce apenas unas semanas después de que la plataforma fuera ampliamente condenada por permitir a Grok desnudar digitalmente a personas sin su consentimiento y generar imágenes sexualizadas de niños a petición de los usuarios.
En el video generado por el diseñador gráfico de IA Alex Patrascu, que promociona Grok Imagine de xAI, la falsa Sydney Sweeney, que en realidad no se parece en nada a la actriz real, le dice a una coprotagonista igualmente generada por IA: “Déjame aclarar esto. Los videos de Grok ahora duran 10 segundos y el audio ha mejorado enormemente”.
“Sí, más o menos… ¿Te gusta?” él responde.
AI Sweeney asiente y baja la mirada hacia el cuerpo del personaje masculino.
Musk subtituló la publicación: “El video de Grok ahora dura 10 segundos y el audio ha mejorado enormemente”.
En las respuestas a la publicación de Musk, muchos usuarios se apresuraron a expresar su alegría por poder usar la herramienta para generar clips de Sweeney.
“Los matones se lo pasarán en grande”, señaló un usuario, desafortunadamente con precisión.
El anuncio de Musk se produce pocas semanas después de que él, su plataforma X –anteriormente conocida como Twitter– y el propio Grok fueran ampliamente criticados por permitir a los usuarios generar imágenes de personas reales en contextos sexualizados, incluidos niños.
A principios de año, varios usuarios, muchos de los cuales eran mujeres, informaron que Grok estaba alterando sus fotos a petición de otros usuarios para mostrarlas desnudas sin su consentimiento.
Grok generó las imágenes después de que los usuarios respondieran a las fotografías de las personas, como una selfie, pidiéndole que “las pusiera en bikini”, mientras que otros también pidieron que las mujeres estuvieran cubiertas con un glaseado estilo donut, en un intento de sexualizar imágenes que de otro modo serían inocentes.
También hubo casos en los que Grok alteró imágenes de niños de una manera igualmente sexualizada a petición de usuarios individuales.
SentidoG verificó de forma independiente la validez de algunas de estas imágenes.
En respuesta, los organismos de control digital de todo el mundo (incluidos Ofcom del Reino Unido, la Comisión Europea de la Unión Europea y organismos de Australia, Alemania y Francia) iniciaron investigaciones sobre la herramienta de inteligencia artificial y lo que es capaz de generar.
Henna Virkkunen, vicepresidenta ejecutiva de Soberanía Tecnológica, Seguridad y Democracia de la Comisión, describió los deepfakes generados por Grok como una “forma violenta e inaceptable de degradación”, y agregó que la investigación “determinaría si X ha cumplido con sus obligaciones legales en virtud de la DSA (Ley de Servicios Digitales) o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio”.
En medio de las críticas, Musk afirmó el 3 de enero que cualquiera que utilizara Grok para “crear contenido ilegal” “sufriría las mismas consecuencias que si subiera contenido ilegal”.
Posteriormente, la cuenta oficial de Seguridad de X compartió una declaración que decía: “Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (CSAM), eliminándolo, suspendiendo permanentemente las cuentas y trabajando con los gobiernos locales y las fuerzas del orden según sea necesario.
“Cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”, agregó, haciéndose eco de la publicación del propio Musk del día anterior.
Sin embargo, esta semana Musk pareció burlarse de estas críticas y restricciones impuestas a Grok al compartir una imagen generada por IA tomada de una captura de pantalla del avance del próximo videojuego Grand Theft Auto VI.
Colocadas una al lado de la otra, la primera imagen era una captura de pantalla estándar del avance que mostraba a los NPC del juego en la playa en Vice City, inspirada en Miami, debajo estaba la misma imagen pero con todos cubiertos con vestimenta islámica tradicional.
“Es muy difícil conseguir la moderación adecuada”, subtituló Musk en la publicación.
