Malasia e Indonesia bloquean chatbot Grok de Elon Musk por generar imágenes sexuales no consensuadas

Malasia e Indonesia se convirtieron en los primeros países en bloquear el chatbot de inteligencia artificial Grok, luego de que se comprobara su capacidad para generar contenido sexual manipulado que viola los derechos de privacidad de las personas.

Según informaron los ministerios de Comunicaciones de ambos países, Grok ha sido utilizado repetidamente para producir imágenes obscenas y no consensuadas que involucran a mujeres y menores de edad. La ministra de Asuntos Digitales de Indonesia, Meutya Hafid, declaró que estas prácticas representan una violación seria de los derechos humanos y la dignidad digital.

La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) señaló que emitió avisos previos a X Corp. y xAI solicitando medidas de seguridad más estrictas. Sin embargo, las respuestas de las empresas se limitaron a mecanismos de reporte de usuarios, lo cual consideraron insuficiente.

Lanzado en 2023, Grok permite a los usuarios generar contenido e imágenes. La función de generación de imágenes, añadida en 2024, incluye un modo denominado 'picante' que permite crear contenido para adultos, lo que ha generado críticas internacionales.

El bloqueo se mantendrá vigente hasta que se implementen salvaguardas efectivas que prevengan la creación de contenido sexual manipulado. Otros países como Reino Unido ya están considerando medidas similares, con su regulador de seguridad en línea Ofcom abriendo una investigación formal.

La decisión de Malasia e Indonesia marca un precedente importante en la regulación de herramientas de inteligencia artificial y sus potenciales abusos, especialmente en la generación de contenido sexual no consensuado.