España propone hasta cuatro años de cárcel para directivos de plataformas que no actúen contra algoritmos que amplifican contenidos ilícitos

El Gobierno español ha dado un paso decisivo en la regulación de las plataformas digitales al acordar este miércoles dos enmiendas al proyecto de ley para proteger a los menores en los entornos digitales que introducen responsabilidades penales para las empresas tecnológicas y sus directivos, según informó El País. Las enmiendas, pactadas por el PSOE y Sumar durante la fase de ponencia parlamentaria, establecen penas de prisión de hasta cinco años para las plataformas cuyos algoritmos estén específicamente configurados para amplificar contenidos ilícitos, y de uno a cuatro años para los directivos que, conociendo esta situación, no adopten medidas correctivas.

El texto, que ahora deberá negociarse con el resto de grupos parlamentarios, también prohíbe el acceso a las redes sociales a todos los menores de 16 años, eliminando la posibilidad de autorización paterna que contemplaba la redacción inicial del proyecto, según la fuente. La prohibición incluye excepciones para plataformas que demuestren que no provocan efectos nocivos en niños y adolescentes.

El presidente del Gobierno, Pedro Sánchez, anunció en febrero pasado una batería de medidas para garantizar un entorno digital seguro, incluyendo la tipificación como delito de la manipulación de algoritmos y la amplificación de contenidos ilegales, así como la responsabilidad legal de los directivos de las plataformas, según El País. "Este Gobierno no se va a rendir ante tecno-oligarcas", publicó Sánchez este miércoles en la red social X al anunciar el acuerdo. "Vamos a convertir el espacio digital en un entorno seguro para nuestros jóvenes", añadió.

La ministra de Juventud e Infancia, Sira Rego, de Sumar, afirmó que "se acabó la impunidad" y aseguró que estos "avances importantes" sitúan a España como país pionero en la regulación del entorno digital, según la fuente. "No vamos a permitir que sigan haciendo caja a costa del bienestar y de la salud de niños, niñas y adolescentes", dijo Rego en referencia a "Elon Musk y compañía".

Modificaciones al Código Penal y contenidos ilícitos

Una de las enmiendas introduce cambios en el Código Penal español para establecer la responsabilidad de quienes presten "servicios intermediarios, incluidas las plataformas en línea", que con ánimo de obtener un beneficio económico directo o indirecto utilicen algoritmos "que hayan sido específicamente configurados, diseñados o ajustados con la finalidad de incrementar significativamente el alcance de la distribución o difusión pública de" determinados contenidos ilícitos, según El País.

Las penas de cárcel varían según la gravedad de los contenidos amplificados. La enmienda establece de dos a cuatro años de prisión por incitar o promover el suicidio de menores; de uno a tres años por fomentar o incitar la autolesión en menores; y de dos a cinco años por promover o incitar al odio, hostilidad, discriminación o violencia contra un grupo o alguien que forme parte del mismo por motivos racistas, antisemitas, antigitanos u otros referentes de ideología, religión o creencias, raza, origen nacional, sexo o identidad sexual o aporofobia, según la fuente.

El Ministerio de Juventud e Infancia explicó que "no bastaría con acreditar que existe un algoritmo que amplifica contenidos de forma general", sino que sería necesario acreditar que el sistema ha sido orientado o mantenido "para potenciar la difusión de estos", según El País. La norma requerirá un desarrollo reglamentario posterior.

Respecto a la responsabilidad de los directivos, las enmiendas mencionan específicamente a "los administradores de hecho o de derecho, o quienes ejerzan funciones de dirección, organización y control" de las entidades que prestan servicios intermediarios, según la fuente. Estos directivos enfrentarían penas de prisión si, conociendo que sus algoritmos amplifican la difusión pública de contenidos ilícitos, "no hubiesen adoptado u ordenado adoptar" medidas técnicas.

Las penas para directivos incluyen de dos a cuatro años por captar a menores o usarlos con fines exhibicionistas o pornográficos o producir, vender o distribuir este tipo de contenido; de dos a tres años por incitar o promover el suicidio de menores; de uno a tres años por incitar la autolesión en menores; y de dos a cuatro años por promover o incitar al odio, hostilidad, discriminación o violencia por motivos racistas, antisemitas y otros, según El País.

Desafíos jurídicos y prácticos

La aplicación práctica de estas medidas enfrenta importantes desafíos. Borja Adsuara, abogado especializado en derecho digital, explicó a El País que "la clave está en que el Código Penal tiene un alcance territorial, por lo que condenar a un directivo de una multinacional de Estados Unidos es complicado". Sin embargo, añadió que "podrían arrestarle si pisa territorio español, como pasó con el CEO de Telegram cuando aterrizó en Francia", en referencia a Pável Dúrov, a quien la justicia francesa apresó cuando su jet privado hacía una escala cerca de París, imputándole cargos que van desde el blanqueamiento de crímenes a complicidad en la difusión de imágenes pedófilas.

Adsuara señaló que "las filiales españolas son oficinas comerciales, que no programan los algoritmos de las plataformas", por lo que los ejecutivos que trabajen en España, en principio, no correrían peligro, según la fuente. Para el jurista, "la vía penal contra los directivos es efectista, pero poco práctica. Por eso la Unión Europea optó en el reglamento de servicios digitales DSA por sanciones económicas a las empresas".

Prohibición de redes sociales para menores de 16 años

La redacción inicial del proyecto de ley ya establecía que los menores deberían tener 16 años para registrarse en redes sociales, frente a los 14 actuales, salvo que contaran con la autorización explícita de sus padres, según El País. La novedad introducida por las enmiendas es que ahora se prohíben las redes sociales para todos los menores de 16 años sin excepción de autorización paterna.

Esta prohibición plantea dos problemas principales, según Adsuara. Primero, la contradicción con el Reglamento General de Protección de Datos europeo, que prevé la autorización paterna para menores de 16 años, una normativa aplicable en todos los Estados miembros. Segundo, la verificación de edad de todos los usuarios, según la fuente.

Fuentes del Gobierno español indicaron a El País que la herramienta de verificación de edad está ya desarrollada y ha obtenido todas las certificaciones de seguridad requeridas, y debería estar disponible antes de acabar el año. Sin embargo, Adsuara advirtió que "la prohibición legal, por sí sola, no resuelve el problema ni impide el acceso de los menores de 16 años". El abogado citó los casos de Reino Unido y Australia, donde los menores siguen usando redes sociales mediante descargas de VPN (redes privadas virtuales), según la fuente.

Las enmiendas introducen salvedades a la prohibición. Quedan excluidas, previa presentación de una declaración responsable ante la Comisión Nacional de los Mercados y de la Competencia, "las enciclopedias digitales en línea" o "las plataformas colaborativas sin ánimo de lucro destinadas a la educación" cuando "se constate que no comportan un riesgo para la seguridad y la salud" de los menores de 16 años, según El País. También quedan excluidas aquellas plataformas que demuestren que, aunque no cumplen determinadas condiciones recogidas en las enmiendas, no provocan efectos nocivos en los menores. La CNMC deberá publicar el listado de las plataformas excluidas de la prohibición.

Incertidumbre sobre la aprobación de la ley

La aprobación definitiva de la ley enfrenta incertidumbre política. Según El País, no se prevé que el proyecto pueda ver la luz antes del parón veraniego, por lo que la negociación con los grupos parlamentarios deberá continuar en septiembre. El Gobierno debe amarrar los apoyos para conseguir mayoría absoluta en un momento políticamente muy complicado, según la fuente.

El acuerdo alcanzado este miércoles representa un intento del Gobierno español de posicionarse a la vanguardia de la regulación de las plataformas digitales en Europa, estableciendo responsabilidades penales directas para empresas y directivos en un contexto donde la Unión Europea ha optado principalmente por sanciones económicas a través del reglamento de servicios digitales. La efectividad práctica de estas medidas y su compatibilidad con la normativa europea serán aspectos clave que determinarán el alcance real de esta legislación si finalmente es aprobada por el Parlamento español.