El controvertido influencer y boxeador Jake Paul respondió esta semana a una avalancha de videos falsos publicados en las redes sociales que muestran su imagen generada por inteligencia artificial declarándose gay.
De acuerdo a futurismolos videos fueron realizados utilizando el generador de texto a video Sora 2 lanzado recientemente por OpenAI por usuarios de la nueva aplicación social solo por invitación de la compañía. Varios clips muestran la imagen sorprendentemente realista de Paul, que OpenAI llama un “cameo”, maquillándose y anunciando “Soy gay” de una manera exageradamente camp. En otra se muestra a Paul con maquillaje de ojos de arcoíris y guantes de boxeo, mientras que en otra se lo representa con una falda y un cárdigan corto.
Todos los clips llevan una marca de agua, aunque en particular, la marca de agua solo muestra el nombre y el logotipo de Sora y no los identifica explícitamente como generados por IA. Muchos también incluyen errores reveladores como dedos extra o tatuajes faltantes a imagen de Paul.
Desde el domingo 5 de septiembre, el verdadero Paul ha compartido varias publicaciones en TikTok uniendo varios clips de Sora con sus propias reacciones. El primero mostraba a su prometida, la patinadora de velocidad holandesa Jutta Leerdam, expresando su desaprobación por los deepfakes.
“No es gracioso”, dice Leerdam en el clip. “La gente cree…”
Las publicaciones posteriores fueron más irónicas. En uno, el verdadero Paul, hablando directamente a la cámara, dice que “esta IA se está yendo de las manos…” Luego es interrumpido por una voz fuera de cámara que le ofrece una bebida energética Celsius, una de las marcas con las que Paul tiene un acuerdo de patrocinio, que acepta con entusiasmo, adoptando abruptamente un afecto estereotipado similar al que se muestra en los videos generados por Sora.
Otros dos clips muestran al verdadero Paul maquillándose. En uno, refuta un vídeo falso de “prepárate conmigo” en el que su imagen deepfake dice que está “rodando con” los New York Giants. El verdadero Paul afirma que “todo el mundo sabe” que “iría con” los Philadelphia Eagles antes que con los Giants, al tiempo que admite que el mariscal de campo de los Giants, Jaxson Dart, es “realmente lindo” y promueve su propia plataforma de apuestas deportivas. En el otro, afirma inexpresivamente que “las cosas de la IA” están afectando sus relaciones con las empresas y que tiene la intención de demandar a las personas que difunden videos “de mí haciendo cosas que literalmente nunca haría”, todo mientras me maquillo.
Si bien parece tomarse los videos con calma, Paul, quien respaldó la candidatura de Donald Trump durante las elecciones presidenciales de 2024, no ha abordado lo que futurismo descrito como las “corrientes subyacentes problemáticas de la homofobia” en los clips generados por IA.
No está claro si el propio Paul hizo posible que los usuarios crearan las publicaciones. El documento de seguridad Sora 2 de OpenAI afirma que la compañía cuenta con “barandillas” para garantizar que el audio y la imagen de los usuarios se utilicen con su consentimiento a través de los “cameos” de la plataforma.
“Solo usted decide quién puede usar su cameo, y puede revocar el acceso en cualquier momento. También tomamos medidas para bloquear representaciones de figuras públicas (excepto aquellos que usan la función de cameos, por supuesto). Los videos que incluyen su cameo, incluidos los borradores creados por otros usuarios, siempre son visibles para usted. Esto le permite revisar y eliminar fácilmente (y, si es necesario, informar) cualquier video que incluya su cameo. También aplicamos medidas de seguridad adicionales a cualquier video con un cameo, y incluso puedes establecer preferencias sobre cómo se comporta tu cameo”, dice el documento de seguridad de Sora 2.
A pesar de las garantías de la empresa, PCMag informó la semana pasada que OpenAI admitió que las salvaguardas de Sora 2 no lograron evitar que la herramienta creara deepfakes sexualmente explícitos con la imagen de una persona real el 1,6% de las veces.
Y en una publicación de 2 X de octubre, el periodista Taylor Lorenz afirmó que un “acosador” había usado Sora 2 para crear deepfakes de IA de ella. Lorenz dijo que la plataforma le permitió bloquear el contenido no aprobado usando su imagen, pero como futurismo señala, no está claro si Lorenz optó por la plataforma social Sora en primer lugar.
Suscríbete al Boletín de la Nación LGBTQ y sé el primero en conocer los últimos titulares que dan forma a las comunidades LGBTQ+ en todo el mundo.
