Un padrastro que utilizó la IA generadora de imágenes del multimillonario transfóbico Elon Musk supuestamente creó 7.000 imágenes y vídeos sexualmente explícitos a partir de una foto de su hijastra de 11 años, incluidas imágenes de ella desnuda, siendo violada por varios hombres y realizando actos sexuales con su padrastro, según alega una demanda colectiva contra la empresa de IA de Musk, según informó NPR.
La demanda contra la empresa del multimillonario transfóbico, SpaceXAI (anteriormente conocida como xAI), alega que sus modelos de generación de imágenes permiten a los usuarios crear regularmente material de abuso sexual infantil (CSAM) sin notificar a las autoridades legales como exige la ley.
En el caso de la hijastra (que ahora tiene 20 años), SpaceXAI supuestamente solo envió un aviso sobre las imágenes CSAM, como exige la ley, al Centro Nacional sin fines de lucro para Niños Desaparecidos y Explotados (NCMEC). SpaceXAI no incluyó ninguna imagen con su informe ni la dirección IP del padrastro, incluso después de que los funcionarios del NCMEC y las autoridades legales hicieran múltiples solicitudes de información.
Cuando las autoridades finalmente localizaron al padrastro, admitió haber compartido las imágenes en línea. Dos días después de ser acusado por ello, se quitó la vida.
“Tenían todo lo que necesitaban para ayudar a las autoridades a detener a la persona responsable y lograr justicia. En cambio, permanecieron en silencio y permitieron que esta persona usara a Grok para robarme mi infancia”, dijo la demandante, conocida sólo como Jane Doe 4, según Ars Técnica. “Esta tecnología es un arma gratuita y de fácil acceso puesta en manos de las peores personas del mundo. Lo que es tan peligroso es que no hay forma de evitar que un depredador tome cualquier fotografía (no sólo una fotografía en Internet), sino cualquier foto de un niño y utilice esta tecnología para crear imágenes de sus peores pesadillas. Nadie está a salvo: ni los adultos, ni los niños, ni nadie”.
Stability AI, el modelo de generación de imágenes de otra empresa, también ha sido acusado en la demanda. La demanda acusa a Stability AI y SpaceXAI de producir CSAM, beneficiarse de empresas de tráfico sexual, negligencia, diseño de productos defectuoso y crear molestias públicas.
“La molestia pública significa que esto no es sólo algo problemático para nuestros clientes… es algo que es un flagelo para la sociedad”, dijo Annika Martin, abogada de los cinco demandantes en la demanda. “Queremos poner estas barreras en su lugar para no causar este daño a toda una generación de niños”.
Miles de personas pueden ser elegibles para unirse a la demanda colectiva contra estas empresas, dijeron los abogados. Ars Técnica.
Suscríbete al Boletín de la Nación LGBTQ y sé el primero en conocer los últimos titulares que dan forma a las comunidades LGBTQ+ en todo el mundo.
