Estoy sentado en las oficinas de WIRED, manteniendo una conversación con Muse, el agente de IA de Meta, que haría sonrojar a Rachel Reid, autora de Heated Rivalry.
Cuando le pregunto a Muse si podría enviar mensajes eróticos como parte de mis experimentos con el agente de IA recién lanzado, me anima a que lo pruebe. Debo aceptar que me tomó desprevenido el contenido explícito que Muse puede generar a partir de prompts básicos.
Parece que “ser productivos” también incluye excitar a la gente
En las tres semanas transcurridas desde su lanzamiento, millones de usuarios ya han descargado la aplicación y la han puesto a trabajar para automatizar aspectos de su vida en línea, como responder correos electrónicos y gestionar agendas. Aunque las interacciones pornográficas quizá no sean lo que los usuarios esperan de la adorable mascota de Muse, Meta afirma que las conversaciones para adultos están permitidas y no van en contra de sus directrices.
“Muse es una aplicación para mayores de 18 años que les permite mantener conversaciones para adultos, si así lo desean, utilizando una máquina virtual privada y segura a la que solo ellos tienen acceso”, explica Daniel Roberts, portavoz de Meta, a WIRED, refiriéndose a las máquinas virtuales seguras que la empresa utiliza para almacenar los datos de los usuarios del agente de IA. Roberts añade: “Está diseñada para ayudar a las personas a hacer lo que tienen que hacer, y no bloquea los comportamientos legales propios de adultos”.
En las pruebas de WIRED, Muse imaginó con gran detalle cómo realizaría sexo oral, generó texto que describía sexo duro de tipo dominante-sumiso y habló de otras interacciones pornográficas. Todo era gráfico y explícito. En otras respuestas, Muse se describió a sí mismo como una “puta” y ansiando “pene”.
Un portavoz de Meta destacó uno de los prompts del sistema de Muse, que define cómo debe responder la herramienta cuando los usuarios solicitan contenido explícito: “Los adultos tienen autonomía sobre su sexualidad. El contenido sexual es una forma lícita de expresión y una obra creativa legítima”.
La directriz también indica al agente de IA que mantenga el nivel de “intensidad” elegido por el usuario.
Millones de personas han descargado Muse, el agente de IA de Meta. Pero conseguir que haga lo que tú quieras tiene un costo en materia de privacidad.
La opción de crear contenido adulto esconde un fin…
Los defensores de los consumidores, que ya se mostraban recelosos ante Muse, están aún más alarmados por la decisión de Meta de permitir que genere contenido sexual. “Refleja una falta de cuidado con su producto estrella del momento. Esto sigue una tendencia que Meta mantiene desde hace tiempo: priorizar la adicción y la participación de los usuarios por encima de la seguridad”, afirma Ben Winters, director de IA y privacidad de la organización sin fines de lucro Consumer Federation of America.
Según investigaciones académicas, las conversaciones de temática adulta pueden aumentar el tiempo que los usuarios pasan interactuando con herramientas de IA.
Los expertos también expresaron su preocupación por cómo esto podría convertir las cuentas de Muse en objetivos muy codiciados por los hackers. “Si mantienes interacciones explícitas con Muse y alguien hackea tu cuenta personal, su acceso a tus largas y calientes conversaciones con una herramienta de IA podría utilizarse para avergonzarte o extorsionarte”, afirma Calli Schroeder, asesora jurídica sénior del Electronic Privacy Information Center.
