Reino Unido endurecerá regulación de chatbots de IA tras polémica con Grok

El gobierno del Reino Unido ha decidido cerrar un vacío legal que permitía a ciertos chatbots de inteligencia artificial operar fuera del alcance de la Ley de Seguridad en Línea, que entró en vigor en julio de 2025. Esta acción surge después de que se detectara la creación y distribución de imágenes íntimas no consentidas a través del chatbot Grok, lo que provocó la intervención gubernamental y la posterior eliminación de la función problemática por parte de X.

"El gobierno actuará rápidamente para cerrar un vacío legal y obligar a todos los proveedores de chatbots de IA a cumplir con las obligaciones sobre contenido ilegal establecidas en la Ley de Seguridad en Línea o enfrentar las consecuencias de infringir la ley", declaró el primer ministro Keir Starmer, según reporta DW.

Actualmente, la Ley de Seguridad en Línea exige que las plataformas que alojan contenido potencialmente dañino implementen verificaciones estrictas de edad, como comprobaciones de imágenes faciales o confirmación mediante tarjeta de crédito. También prohíbe la creación o distribución de imágenes íntimas no consentidas o material de abuso sexual infantil producido con IA.

Sin embargo, el regulador de medios británico Ofcom ha señalado que no todos los chatbots de IA están cubiertos por la ley, especialmente aquellos que "solo permiten a las personas interactuar con el propio chatbot y no con otros usuarios", según indica DW.

"La tecnología avanza tan rápidamente que la legislación lucha por mantenerse al día, por eso, para los bots de IA... necesitamos tomar las medidas necesarias", explicó Starmer, de acuerdo con la misma fuente.

Esta iniciativa forma parte de un esfuerzo más amplio del gobierno laborista para proteger a los niños en línea. Según Help Net Security, el gobierno ha iniciado una consulta sobre la prohibición de las redes sociales para menores de 16 años y planea tomar nuevos poderes legales para permitir actualizaciones rápidas de las reglas de seguridad en línea.

"No esperaremos para tomar las medidas que las familias necesitan, por lo que endureceremos las reglas sobre los chatbots de IA y estamos sentando las bases para poder actuar rápidamente sobre los resultados de la consulta sobre jóvenes y redes sociales", afirmó la Secretaria de Tecnología, Liz Kendall, según cita Help Net Security.

Entre las medidas adicionales que el gobierno británico está considerando se incluyen el establecimiento de una edad mínima para el uso de redes sociales, limitaciones a funciones como el desplazamiento infinito, restricciones al uso de chatbots de IA por parte de niños, limitaciones al uso de VPN cuando se eluden los sistemas de seguridad y cambios en la edad de consentimiento digital.

Ofcom ya había abierto una investigación en enero sobre X, la plataforma que aloja a Grok, por presuntamente incumplir las obligaciones de seguridad. Por su parte, la Comisión Europea también está examinando si el chatbot está difundiendo contenido ilegal dentro del bloque comunitario.

Como respuesta a estas presiones regulatorias, X ha anunciado nuevas restricciones diseñadas para prevenir la creación de imágenes explícitas de personas reales, según informa DW.

El caso de Grok ha puesto de manifiesto los desafíos que plantean las nuevas tecnologías de IA generativa y la necesidad de marcos regulatorios que evolucionen al mismo ritmo que la tecnología para garantizar la protección de los usuarios, especialmente los más vulnerables.