La empresa de inteligencia artificial de Elon Musk, xAI, que fabrica el chatbot Grok, está siendo demandada por adolescentes que dicen que los modelos de IA de la empresa se utilizaron para crear desnudos no consensuados de ellos.
Tres adolescentes de Tennessee presentaron una demanda colectiva contra la empresa de inteligencia artificial de Elon Musk, xAI, alegando que su gran modelo de lenguaje impulsaba una aplicación que se utilizaba para crear imágenes y vídeos no consensuados de desnudos y sexualmente explícitos de ellas cuando eran niñas.
"Como un muñeco de trapo que cobra vida a través de las artes oscuras, este niño [generado por IA] puede ser manipulado para adoptar cualquier pose, por enferma, fetichizada o ilegal que sea. "Para el espectador, el vídeo resultante parece totalmente real", se lee en la denuncia. "Para la niña, sus rasgos identificativos ahora estarán asociados para siempre a un video que muestra su propio abuso sexual infantil"
Si bien el perpetrador no utilizó el chatbot de xAI, Grok ni la plataforma de redes sociales X (también propiedad de xAI), la demanda afirma que el perpetrador se basó en una aplicación anónima que usaba el algoritmo de xAI, citando a las autoridades.
Los demandantes acusaron a xAI de licenciar deliberadamente su tecnología a creadores de aplicaciones, a menudo fuera de EE. UU. "De esta manera, xAI podría intentar externalizar la responsabilidad de su herramienta increíblemente peligrosa", afirma la denuncia.
La demanda es la primera en la que xAI ha sido demandada por menores de edad representados en material de abuso sexual infantil que supuestamente generó su modelo. Las herramientas de generación de imágenes de xAI han sido implicado en la producción de millones de imágenes sexualizadas de personas durante el año pasado. La influencer Ashley St. Clair, que tiene un hijo con Musk, demandó a la compañía a principios de este año por imágenes producidas por IA en X que la mostraban desnuda cuando era adolescente.
Según la demanda colectiva, el perpetrador que hizo las imágenes sexualizadas tenía una "relación cercana y amistosa" con uno de los demandantes, y utilizó fotos que el demandante le envió, así como fotos que recopiló en un anuario y en las redes sociales para hacer las imágenes y los videos. Un video mostraba a una demandante "desnudándose hasta quedar completamente desnuda", alegaba la denuncia. Los demandantes estaban preocupados por lo realistas que eran las imágenes y los vídeos. Es más, el material no estaba etiquetado como generado por IA, según la denuncia.
El perpetrador también hizo material sexualmente explícito de otras 18 personas y las intercambió por imágenes de otras personas en línea, según la denuncia. Fue arrestado, según la denuncia.
La abogada de los demandantes, Vanessa Baehr-Jones, dijo que los adolescentes, identificados como Jane Does 1, 2 y 3 en la denuncia, quieren cambiar la forma en que las empresas de inteligencia artificial toman decisiones comerciales sobre contenido sexualmente explícito: "Queremos que sea una [decisión comercial] que ya no tenga ningún sentido comercial", dijo.
Los demandantes piden al tribunal una indemnización por angustia emocional y otros daños causados por las imágenes.
Las aplicaciones con las llamadas funciones nudificadoras existen desde hace años a la sombra de Internet. Pero el año pasado, importantes empresas de inteligencia artificial, incluidas Google, OpenAI y xAI, actualizaron sus herramientas de generación de imágenes de una manera que permite a los usuarios desnudar a las personas hasta dejarlas en bikini. Pero las imágenes creadas por Google y OpenAI incluyen marcas de agua digitales que revelan su origen en la IA. Hasta el momento, xAI no ha adoptado dicho estándar.
xAI no respondió a una solicitud de comentarios.
