La proliferación de herramientas de inteligencia artificial generativa está creando un nuevo panorama de exposición sexual para los adolescentes. El contenido generado con estas tecnologías incluye imágenes y videos de desnudos falsos, deepfakes y contenido de aplicaciones de desnudificación que permiten a los usuarios generar imágenes falsas que muestran a personas sin ropa, según la investigación de Common Sense Media.

Aunque los hallazgos sobre la exposición de adolescentes a contenido sexual se han mantenido relativamente consistentes desde el informe de 2023 de Common Sense Media, el acceso de los jóvenes a este contenido ha cambiado significativamente en los últimos tres años. "Lo que realmente creo que hace esto notablemente distinto es que no estamos hablando de 'pornografía comercial o curada'. Estamos hablando de cosas que están eliminando la agencia y despojando a las personas de su capacidad de controlar su imagen", explicó la Dra. Supreet Mann, directora de investigación de Common Sense Media y autora principal del estudio.

Los adolescentes frecuentemente encuentran imágenes sexuales generadas por inteligencia artificial de celebridades, pero las herramientas de desnudificación ahora están exponiendo a los jóvenes a contenido sexual de sus compañeros. Casi el 20% de los participantes de la encuesta han creado contenido sexual generado por inteligencia artificial ellos mismos o conocen a alguien que lo ha hecho, y más de la mitad dice que representaba a alguien que conocían.

"Lo que estamos viendo aquí es la emergencia de un espacio muy específico y lo que yo llamaría cada vez más sin fricción que permite a los jóvenes acceso y exploración de formas que son en gran medida sin filtrar y sin regular", señaló Mann.

Las aplicaciones de desnudificación están fácilmente disponibles con un solo clic. Del 44% de adolescentes que vieron contenido sexual que creían era generado por inteligencia artificial, el 15% dijo que se encontró con ellas a través de una aplicación de inteligencia artificial que creaba o modificaba fotos y videos. Aunque las regulaciones se aplican a lo que se permite en las tiendas de aplicaciones, estas aplicaciones a veces pueden pasar desapercibidas al no publicitar el rango completo de sus capacidades, según Riana Pfefferkorn, investigadora de políticas del Instituto Stanford para la Inteligencia Artificial Centrada en el Ser Humano.

"Hay mucha investigación que muestra que el trabajo de 'golpear a un topo' que están haciendo las tiendas de aplicaciones y las plataformas de redes sociales realmente no ha sido suficiente para mantenerse al día", dijo Pfefferkorn, quien no participó en la nueva investigación.

El impacto en la percepción y el comportamiento de los adolescentes es profundo. Casi el 70% de los adolescentes estaban preocupados por ser víctimas de contenido sexual generado por inteligencia artificial sin su consentimiento. Estos jóvenes se encontraban tomando medidas para protegerse, siendo cuidadosos con lo que publicaban, haciendo sus redes sociales privadas o incluso eliminando sus cuentas por completo.

Aunque es positivo que los adolescentes entiendan la importancia de monitorear sus redes sociales, Mann señaló que parecía reforzar la culpabilización de las víctimas. "¿Por qué la carga está en los jóvenes para cambiar sus propios comportamientos por miedo a las acciones de otras personas?", preguntó.

La frecuencia y accesibilidad de este tipo de contenido también está distorsionando las percepciones de los adolescentes sobre el sexo, el consentimiento y la imagen corporal. Casi el 70% de los adolescentes creen que el contenido sexual generado por inteligencia artificial afecta cómo ven lo que sus cuerpos deberían parecer. Esto es especialmente preocupante considerando que los adolescentes están en una etapa de la vida en la que sus cuerpos están cambiando constantemente y rápidamente, según Mann.

"Está impactando las formas en que los jóvenes están pensando sobre elementos fundamentales realmente importantes de la experiencia adolescente, como el consentimiento y las relaciones románticas", agregó.

El desafío se extiende más allá de los adolescentes. Más de un tercio de los adolescentes dijeron que les gustaría hablar con un adulto sobre contenido sexual generado por inteligencia artificial, pero no saben por dónde comenzar. Para las familias, esto puede parecer entrar en un terreno desconocido. ¿Cómo inicias conversaciones sobre algo que no entiendes completamente?

Common Sense Media aconseja a padres y tutores que tengan conversaciones de apoyo con sus hijos que comiencen con el consentimiento, la salud y la identidad sexual. Esto proporciona una base sólida para trabajar antes de abordar la tecnología en sí. Los hallazgos de la investigación también sugieren que los adolescentes más jóvenes tenían más probabilidades de sentirse cómodos hablando con sus padres en comparación con los adolescentes mayores. Comenzar estas conversaciones temprano puede ser una buena manera de crear conciencia sobre el contenido sexual generado por inteligencia artificial más adelante.

Los padres y tutores deben tener conversaciones abiertas y continuas, en lugar de una gran conversación, según Mann. También deben sentirse cómodos pidiendo a sus hijos que les muestren cualquier aplicación habilitada por inteligencia artificial y cualquier otra pregunta que tengan sobre las aplicaciones en sus dispositivos.

En muchos casos, los adolescentes están experimentando los efectos negativos de imágenes generadas por inteligencia artificial de ellos mismos u otros mientras están en la escuela. Múltiples escuelas están en el centro de incidentes en los que los adolescentes enfrentan consecuencias legales por generar imágenes explícitas falsas de sus compañeros de clase. Esto hace que sea cada vez más preocupante que los adolescentes sean casi tan propensos a sentirse cómodos hablando con un chatbot de inteligencia artificial como con un consejero escolar o maestro, según la nueva investigación.

Los funcionarios de educación deben navegar estos escenarios mientras no se involucran en situaciones que técnicamente ocurren fuera del campus. Pero cuando dos estudiantes están interactuando entre sí, Pfefferkorn señaló que esto implica algún nivel de responsabilidad institucional.

"Hay un papel para las escuelas, para los padres y familias, incluso para hablar con tus otros amigos y para las plataformas y los legisladores", dijo Pfefferkorn. "Esto es realmente un problema de la sociedad en lugar de algo que los niños deberían dejar a su suerte para intentar resolver".