A medida que la inteligencia artificial se integra en la vida cotidiana, desde los motores de búsqueda hasta las solicitudes de empleo y los asistentes digitales, las personas LGBTQ podrían estar pagando un precio desproporcionado por sistemas que no fueron creados pensando en ellos.
El 17 de junio, GLAAD publicó su informe inaugural sobre seguridad de la IA. Construir para todos: un marco para la representación y seguridad LGBTQ en la IApidiendo a las empresas de tecnología que reconsideren cómo se diseña, entrena e implementa la inteligencia artificial. El informe sostiene que la IA no es neutral por defecto y, sin intervención, el sesgo en línea existente corre el riesgo de automatizarse a escala.
El informe llega en un momento en que las herramientas de inteligencia artificial están moldeando cada vez más la forma en que las personas descubren información, se comunican, acceden a servicios y participan en línea. GLAAD dice que la influencia conlleva responsabilidad.
A partir de investigaciones académicas, periodismo, informes de la sociedad civil y los propios esfuerzos de monitoreo de GLAAD, la organización examinó todo el proceso de IA, desde la capacitación de modelos básicos y las prácticas de privacidad hasta los sistemas de moderación y la tecnología emergente basada en agentes.
La conclusión es directa: si el sesgo ingresa temprano al sistema, no permanece allí.
Por qué GLAAD está dando la alarma
En el centro del informe hay una advertencia de que los modelos de IA pueden absorber y reproducir narrativas dañinas sobre las comunidades LGBTQ.
Entre los ejemplos destacados se encuentra la investigación previa de GLAAD sobre los modelos Llama de Meta, que encontró respuestas que recomendaban una “terapia” de conversión cuando los usuarios buscaban un lenguaje relacionado con la “atracción no deseada hacia personas del mismo sexo”, terminología comúnmente utilizada por los promotores de la práctica.
La “terapia” de conversión ha sido condenada por las principales organizaciones médicas y de salud mental de Estados Unidos y las Naciones Unidas la han comparado con la tortura.
La presidenta y directora ejecutiva de GLAAD, Sarah Kate Ellis, dijo que la industria ya no puede tratar estos resultados como accidentales.
“La neutralidad ya no es una opción. Los sistemas de inteligencia artificial entrenados con datos que posicionan erróneamente las vidas LGBTQ como ‘marginales’ o tratan nuestra igualdad de derechos como ‘controvertida’, o que no logran detectar desinformación sofisticada sobre las personas LGBTQ, amenazan nuestra salud, seguridad y derechos civiles”.
Ellis añadió que construir sistemas más seguros es tanto una obligación ética como una decisión comercial a largo plazo.
La organización se ha centrado cada vez más en la responsabilidad tecnológica en los últimos años a través de iniciativas que incluyen su Índice de seguridad de las redes sociales anual, que evalúa cómo las plataformas protegen a los usuarios LGBTQ en línea.
Cuatro áreas que GLAAD quiere que la tecnología solucione
El informe describe varias recomendaciones dirigidas a desarrolladores, implementadores y diseñadores de IA.
Los datos de entrenamiento deben mantenerse al día
GLAAD sostiene que las empresas de inteligencia artificial deberían actualizar periódicamente los conjuntos de datos y volver a capacitar los sistemas para reflejar los cambios en el idioma, la cultura, las tácticas de desinformación y las formas de odio en evolución.
El informe señala investigaciones anteriores que muestran que los modelos lingüísticos pueden reproducir estereotipos dañinos y asociaciones discriminatorias si no se controlan.
La privacidad no puede ser opcional
Otra preocupación importante se centra en la recopilación de datos.
GLAAD advierte que los usuarios LGBTQ pueden enfrentar riesgos elevados cuando los sistemas de inteligencia artificial recopilan o infieren detalles relacionados con la orientación sexual o la identidad de género. Esos riesgos se vuelven más graves en países que penalizan las relaciones entre personas del mismo sexo y en lugares donde las protecciones legales son limitadas.
El informe también señala que las personas comparten cada vez más preguntas profundamente personales con los chatbots, incluidas conversaciones sobre identidad y salida del armario, lo que genera dudas sobre el almacenamiento, la retención y el control del usuario.
La moderación de contenido necesita más matices
GLAAD dice que las herramientas de moderación automatizadas a menudo pasan por alto el acoso y al mismo tiempo restringen el contenido LGBTQ legítimo.
El informe cita preocupaciones constantes de creadores y usuarios de las principales plataformas que dicen que los sistemas automatizados han contribuido a la prohibición oculta, la desmonetización, la eliminación de contenido y la suspensión de cuentas.
La preocupación no es si debería existir moderación, sino si las plataformas pueden construir sistemas que reconozcan el contexto en lugar de aplanarlo.
Asuntos de supervisión
La recomendación final impulsa una mayor responsabilidad de la industria y una mayor colaboración con las comunidades más afectadas por los sistemas de IA.
En lugar de tratar la seguridad como un parche después del lanzamiento, GLAAD sostiene que las voces LGBTQ deberían incluirse antes en el desarrollo y las pruebas.
Construyendo la próxima versión de Internet
El vicepresidente de investigación de GLAAD, Brandon Grabowski, describió el momento como uno que todavía está abierto a la influencia.
“Si bien la conversación puede hacer que el futuro impulsado por la IA parezca inevitable, todavía hay tiempo para dirigir la tecnología: qué tan segura es, qué tan precisas son sus respuestas, qué tan apropiadas son sus acciones y si la tecnología es netamente positiva o perjudicial para la sociedad”.
Añadió:
“Con algunas protecciones bien pensadas, podemos construir un futuro de IA que sea mejor y más seguro para todos”.
Esa idea se encuentra en el centro de Construir para todos: La IA ya no es una tecnología emergente. Es infraestructura.
Y si estos sistemas están ayudando a dar forma a la cultura, el acceso, las oportunidades y la información, el mensaje de GLAAD es claro: se debe considerar a todos antes de que se envíe el código.
Fuente
