La administración del presidente Joe Biden está instando a las industrias tecnológica y financiera a ayudar a detener la difusión de imágenes sexuales “deepfake” abusivas, generadas por IA, utilizadas para acosar a escolares y educadores de la vida real, en particular a niñas, mujeres y niños homosexuales en las escuelas. Estas imágenes pueden arruinarles la vida, dice la Administración Biden, pero las políticas y leyes escolares actuales no proporcionan formas consistentes de prevenir su difusión.
“Cuando la inteligencia generativa irrumpió en escena, todo el mundo especulaba sobre dónde vendrían los primeros daños reales. Y creo que tenemos la respuesta”, dijo el principal asesor científico de Biden, Arati Prabhakar, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, según Fortuna. “Si eres una adolescente, si eres un niño gay, estos son problemas que la gente está experimentando en este momento”.
Los deepfakes sexuales colocan el rostro de un individuo sobre un cuerpo desnudo o una escena sexualmente explícita. Luego, estas imágenes se distribuyen a los estudiantes en línea como una forma de humillar y acosar a otros en las escuelas.
“(La creación de deepfakes sexuales) solía tomar aproximadamente entre 100 y 200 fotografías del rostro de la víctima; había que tener una computadora de gran potencia; había que tener una buena cantidad de habilidad y habilidad técnica”, dijo Omny Miranda Martone, directora de la Asociación para la Prevención de la Violencia Sexual, una organización sin fines de lucro con sede en Virginia. “Ahora… sólo necesitas una o dos fotos”.
La Administración Biden publicará un documento el jueves pidiendo a los desarrolladores de inteligencia artificial, procesadores de pagos en línea, instituciones financieras, proveedores de computación en la nube, motores de búsqueda y Apple y Google que restrinjan las aplicaciones que ayudan a generar y distribuir deepfakes sexualmente explícitos con fines de lucro. politico informó.
La administración ya ha recibido promesas voluntarias de Amazon, Google, Meta, Microsoft y otras importantes empresas tecnológicas para ayudar a minimizar cualquier daño causado por los nuevos sistemas de inteligencia artificial antes de que se hagan públicos. Sin embargo, esos compromisos “(no) cambian la necesidad subyacente de que el Congreso tome medidas aquí”, dijo Jennifer Klein, directora del Consejo de Política de Género de la Casa Blanca.
Las leyes actuales penalizan la producción y posesión de imágenes sexuales de niños, incluso si las imágenes han sido fabricadas en su totalidad por generadores de imágenes de IA. De hecho, 20 estados ya han tipificado como delito la difusión de imágenes pornográficas no consensuadas generadas por IA. Algunos estados también tienen leyes que prohíben la distribución de “pornografía de venganza” (es decir, imágenes sexualmente explícitas publicadas sin el consentimiento del individuo fotografiado). Sin embargo, puede resultar difícil identificar a las personas y empresas detrás de las herramientas de generación de imágenes de inteligencia artificial en línea que facilitan la difusión de deepfakes sexuales.
Peor aún, ninguna ley o directriz federal indica a los administradores escolares cómo responder cuando aparecen este tipo de imágenes en entornos educativos, lo que hace que las consecuencias (o la falta de ellas) varíen enormemente dependiendo de dónde surjan dichos incidentes.
Las escuelas pueden investigar estos deepfakes como una violación del Título IX, la ley federal que prohíbe la discriminación sexual en las escuelas, según Esther Warkov, directora ejecutiva y cofundadora de la organización sin fines de lucro Stop Sexual Assault in Schools. En las nuevas reglas del Título IX publicadas por la Administración Biden a principios de este año, el acoso sexual en línea incluye la “distribución no consensuada de imágenes íntimas que han sido alteradas o generadas por tecnologías de inteligencia artificial”. Las reglas también exigen que las escuelas aborden las acciones en línea y fuera del campus que crean un ambiente de aprendizaje hostil.
“Esto apunta a una necesidad mayor, que es garantizar que los procedimientos del Título IX (de un distrito escolar) estén correctamente implementados”, dijo Warkov. politico. “Es posible que muchos distritos escolares no identifiquen este problema como un posible problema del Título IX”.
Sin una ley o directrices federales, no está claro quién es disciplinado, cómo se trata a los menores y quién debe denunciar este tipo de imágenes a la policía, especialmente porque algunos distritos escolares no exigen a los empleados que denuncien este tipo de imágenes a las autoridades legales. El mosaico de políticas existentes y leyes estatales puede hacer que las víctimas se sientan desprotegidas.
“Estamos presionando a los legisladores para que actualicen (las leyes) porque la mayoría de las protecciones se redactaron mucho antes de los medios generados por la IA”, dijo Ronn Nozoe, director ejecutivo de la Asociación Nacional de Directores de Escuelas Secundarias, según politico. “También pedimos al Departamento de Educación que desarrolle orientación para ayudar a las escuelas a afrontar estas situaciones”.
A principios de este mes, el Grupo de Trabajo de la Casa Blanca para abordar el acoso y el abuso en línea publicó un informe que explica los esfuerzos de prevención, apoyo y rendición de cuentas de las agencias gubernamentales que combaten estas imágenes. El informe dice que el Departamento de Educación pronto publicará “recursos, políticas modelo y mejores prácticas” para prevenir el acoso en línea en las escuelas.
La Casa Blanca también hizo un “llamado a la acción” esta semana, instando al Congreso a aprobar una legislación que proporcione recursos legales a los sobrevivientes. Mientras tanto, un grupo bipartidista de legisladores del Congreso se esfuerza por abordar el tema.
El senador Richard J. Durbin (D-IL) ha redactado la Ley DEFIANCE, una enmienda a la Ley de Violencia contra las Mujeres que daría a las víctimas de deepfakes sexuales el derecho a demandar a los creadores, abogados, poseedores y distribuidores de las imágenes por 150.000 dólares en daños y perjuicios. y honorarios legales si los perpetradores “sabían o ignoraban imprudentemente” la falta de consentimiento de las víctimas antes de difundir las imágenes.
La representante Nancy Mace (R-SC) también presentó recientemente una legislación para multar a los perpetradores con 500.000 dólares por difundir este tipo de imágenes. Sin embargo, la representante Alexandria Ocasio-Cortez (D-NY), que es ella misma víctima de la pornografía deepfake y partidaria de la Ley DEFIANCE, ha dicho que algunos legisladores se muestran reacios a implementar una legislación de este tipo por temor a que pueda infringir la libertad. derechos de expresión o la operación de empresas tecnológicas más grandes.
“Ir a lo grande, muy rápido, con algo regulatorio en un espacio industrial emergente, eso muchas veces puede enfrentar sus desafíos”, dijo. “Centrar el proyecto de ley en los derechos de los sobrevivientes -particularmente el derecho de acción- nos ayuda a eludir algunas de esas cuestiones más importantes en el corto plazo y construir una coalición en el plazo inmediato”.
No olvides compartir:
