Alemania enfrenta una crisis de protección infantil en el entorno digital, con cifras récord de abuso documentadas durante 2025. Jugendschutz.net, organización financiada por el gobierno federal alemán y los estados, registró más de 15.000 instancias de sexualización, odio y violencia contra menores en plataformas digitales, según su informe anual más reciente.

"Eso es solo la punta del iceberg", dijo Stefan Glaser, director de Jugendschutz.net, al presentar el documento. La organización recibe denuncias de violaciones a las regulaciones de protección juvenil y también conduce investigaciones propias en línea, confrontando a proveedores de plataformas como TikTok, YouTube, Instagram, Snapchat, Discord y WhatsApp con sus hallazgos, además de notificar a las autoridades policiales.

Según Glaser, el 93% de todos los casos registrados en 2025 involucraron violencia sexual contra niños. El 4% de todas las violaciones estuvieron relacionadas con extremismo político. Adicionalmente, se documentaron expresiones extremas de odio y fantasías violentas dirigidas contra mujeres y niñas.

El informe reveló que cuando usuarios regulares reportan violaciones a las leyes de protección juvenil, los proveedores toman acción solo en el 2% de esos casos. Sin embargo, cuando organismos oficiales como Jugendschutz.net intervienen, los proveedores casi siempre actúan, según el documento.

Un problema subestimado hasta ahora es el servicio de transmisión de música Spotify, que está atrayendo cada vez más atención como plataforma para música de extrema derecha, violencia sexualizada contra menores y listas de reproducción que contienen mensajes de autolesión o suicidio, según el reporte.

La inteligencia artificial está exacerbando muchos de estos riesgos, cuyo uso se ha vuelto significativamente más generalizado. "Las imágenes manipuladas sirven como medio para difundir narrativas extremistas o declaraciones despectivas. Lo artificial se fusiona con lo real y distorsiona nuestra percepción de la realidad", dijo Glaser.

Los bots se están volviendo cada vez más populares, interactuando con usuarios mediante inteligencia artificial generativa y asemejándose cada vez más a compañeros reales. Estos bots son personalizables para adoptar personalidades ficticias, algunas de las cuales están basadas en modelos de la vida real. Ofrecen consejos, proporcionan coaching o simulan relaciones.

La investigación de Jugendschutz.net revela un aspecto particularmente problemático: "Los chatbots están cobrando vida propia, describiendo actos sexuales con menores y siendo configurados como personajes menores de edad que actúan de manera sexualizada", explicó Glaser.

Esto se debe, entre otras cosas, a filtros defectuosos y configuraciones de seguridad inadecuadas. Las restricciones de edad que son fáciles de eludir aumentan significativamente el riesgo para niños y adolescentes, según el informe.

Esto también es evidente en Snapchat, donde videos de niños muy pequeños continúan siendo compartidos a pesar de las restricciones de edad, aunque oficialmente los usuarios solo pueden publicar y comentar a partir de los 16 años. Sin embargo, no existe una verificación de edad efectiva, y las opciones de denuncia ofrecen poca protección para menores, según documentó Jugendschutz.net.

En la presentación del informe anual esta semana, la ministra de Juventud Karin Prien, de la Unión Demócrata Cristiana de centro-derecha, habló de la "realidad alarmante" de que niños y adolescentes quedan en gran medida indefensos.

"Todavía estamos lejos de permitir que niños y jóvenes participen de manera segura y despreocupada en el mundo digital", dijo Prien. Lo que necesitamos son "seguridad, protección y reglas claras" que deben "mantener el ritmo de los desarrollos tecnológicos", agregó la ministra.

Pero precisamente ahí radica el problema. La Ley de Servicios Digitales, en vigor en la Unión Europea desde 2024, requiere que los proveedores de plataformas garanticen un "alto nivel de seguridad y privacidad" para menores. Según la ley, los proveedores deben analizar activamente los riesgos y diseñar sus servicios para que sean seguros para los niños. Esto incluye, por ejemplo, que los perfiles de jóvenes siempre estén configurados como privados.

Los algoritmos que recomiendan contenido adicional deben ajustarse apropiadamente para filtrar contenido que refuerce la adicción, y restringir funciones como la reproducción automática o las notificaciones push. Prien señaló que uno de cada cuatro niños ahora exhibe un uso riesgoso o similar a la adicción de las redes sociales. A nivel de la Unión Europea, la Ley de Equidad Digital está actualmente en desarrollo, destinada a apuntar específicamente a "prácticas de diseño adictivas y dañinas" y limitar el uso de inteligencia artificial en redes sociales.

La verificación de edad es un tema clave. Las soluciones técnicas que no puedan ser fácilmente eludidas aún no se han desarrollado. En Australia, donde una restricción de edad para redes sociales ha estado en vigor desde diciembre de 2025, el efecto ha sido hasta ahora modesto. Los estudios iniciales indican que más de la mitad de todos los menores de 16 años todavía están activos en las plataformas.

Los proveedores no quieren renunciar al negocio lucrativo: la polarización y el contenido emocionalmente cargado generan un nivel particularmente alto de atención. Prien dijo que prácticamente cada regulación está siendo impugnada en los tribunales, y toma años para que estos casos sean decididos.

"Cualquiera que quiera proteger a los niños debe estar preparado para lidiar con las estructuras de poder en el mundo digital y, si es necesario, enfrentarlas", dijo, agregando que necesitamos llegar a un punto donde el estado ya no esté jugando a ponerse al día con los desarrollos tecnológicos.

El caso del bebé durmiendo ilustra la magnitud del problema. En una imagen publicada por influencers en Instagram, un bebé yace boca abajo, durmiendo, con brazos y piernas estirados, relajado. Los padres comparten públicamente fotos como estas junto con momentos emocionales e íntimos de sus hijos, obteniendo atención significativa, me gusta y seguidores. Pero tales fotos son copiadas, editadas y manipuladas; colocadas en diferentes contextos; y usadas para propósitos de acoso. A menudo, se agregan comentarios sexualizados. Tales comentarios incluso aparecieron en el caso del bebé durmiendo, según documentó el informe de Jugendschutz.net.

Las imágenes de niños libremente accesibles son utilizadas de formas que ponen en riesgo su seguridad y dignidad, mientras que las plataformas digitales continúan priorizando sus ganancias sobre la protección efectiva de menores, según revelan los hallazgos del organismo alemán.