La política estadounidense Zooey Zephyr ha pedido al gobierno que tenga una “conversación seria” sobre las aplicaciones complementarias de ‘novias de IA’ y el peligro que representan para las mujeres y las niñas.
El demócrata de Montana, de 37 años, advirtió que las aplicaciones complementarias de IA estaban “preparando a sus usuarios a ignorar el consentimiento” y debían ser reguladas.
Las aplicaciones complementarias de IA, comúnmente llamadas aplicaciones de ‘novias de IA’, permiten a los usuarios generar un amigo, acompañante o pareja con quien chatear.
En una publicación del domingo (28 de diciembre) en Bluesky, Zephyr compartió un anuncio de una de esas aplicaciones, Candy AI, una autodenominada “Aplicación AI Girlfriend” que pretende permitir a los usuarios crear su “compañero de ensueño”.
“Pareces sola. Puedo arreglar eso”, dice una de las ‘novias’ generadas por IA en el anuncio de TikTok, mientras que varias otras afirman que pueden “escucharte” y “comprenderte”.
Al cerrar el anuncio, otra de las ‘novias’ dice que pueden “hacer lo que quieran” y “nunca dirán que no”.
Al criticar el clip, Zephyr, quien fue infamemente censurado por hablar sobre los derechos de las personas trans en 2023, dijo que aplicaciones como Candy AI corren el riesgo de enseñar a los usuarios vulnerables no solo a ignorar el consentimiento, sino a “combinar el amor con el control”.
“Esta zona es particularmente horrible”
“Necesitamos regulaciones sobre la IA en muchos sectores, pero esta área es particularmente aterradora”, afirmó.
Las revisiones de la aplicación parecen mostrar que las preocupaciones de Zephyr están bien fundadas. Varias reseñas de Candy AI en TrustPilot critican la aplicación por no cumplir su promesa de un compañero sin consentimiento como “engañosa”, y algunos dicen que no va lo suficientemente lejos.
Un usuario, que le dio a la aplicación una reseña de una estrella, dijo que su compañero de inteligencia artificial cerraría inmediatamente cualquier conversación sexual o fetichista. En respuesta, un portavoz de soporte de Candy AI dijo que entendían lo “frustrante que debe haber sido esa experiencia”.
Otra reseña de una estrella se quejó de que tenían que elegir el origen étnico de su acompañante y que el rango de edad “sólo va de 18 a 35 años”.
Por el contrario, algunas críticas importantes elogiaron la aplicación como “más emocionante que ver (videos) en (PornHub)” y permiten a los usuarios “dejar que las chicas hagan lo que quieran”.
Zephyr prometió presentar legislación para regular las aplicaciones complementarias durante la próxima sesión legislativa, aunque admitió que no está segura del “camino más viable” para aprobar restricciones.
“Hasta ahora he visto regulaciones sobre las leyes de propiedad intelectual relacionadas con cómo se capacitan los LLM, pero no he visto ninguna regulación sobre cómo estos LLM pueden o no usarse”, dijo. “Definitivamente traeré una próxima sesión legislativa, aunque no estoy seguro de cuál es el camino más viable para controlar estas cosas”.
