El Consejo de Supervisión de Meta, que recientemente recibió financiamiento adicional para continuar su trabajo hasta 2028, lanzó la investigación sobre la política de violaciones de cuentas de Meta a principios de este año para revisar un caso que involucraba amenazas de violencia contra un periodista, según TechCrunch. El consejo acordó que Meta actuó correctamente al desactivar permanentemente la cuenta debido a la gravedad de las amenazas.

Sin embargo, al investigar el asunto, el consejo encontró lo que describió como "preocupaciones sistémicas de derechos humanos" y una "falta de transparencia y consistencia" en el enfoque de dos sistemas que Meta utiliza para desactivar cuentas, según el informe.

Esto se refiere a las dos formas diferentes en que se pueden tomar acciones contra las cuentas: una que involucra advertencias o strikes, algunas de las cuales pueden ser severas, y otra para violaciones "atroces" que ameritan desactivar permanentemente una cuenta, según el consejo. La diferencia entre lo que conduce a un tipo de violación u otro no está clara ni bien documentada, señaló el organismo.

El consejo también criticó al gigante de las redes sociales por cobrar a los usuarios por el acceso a Meta Verified, que supuestamente incluye "acceso 24/7 a soporte por correo electrónico o chat con agentes", pero no proporcionar a los usuarios con cuentas desactivadas ningún tipo de "asistencia significativa", según TechCrunch.

Los usuarios de Meta en Facebook, Instagram y otras aplicaciones de Meta han lidiado con este problema durante años, según el reporte. A medida que los sistemas de moderación de Meta se volvieron más automatizados con el tiempo, ha habido poco recurso cuando cometen errores para obtener algún tipo de ayuda de la compañía. Esto ha sido devastador para usuarios que han perdido sus cuentas personales, o incluso aquellas pertenecientes a sus negocios, por acusaciones falsas. Algunos incluso han presentado demandas sobre el asunto o están en proceso de hacerlo, según TechCrunch.

Casos documentados de usuarios afectados

Después de cubrir las prohibiciones, TechCrunch recibió un flujo constante de reportes de usuarios afectados, suplicando que sus casos fueran llevados a la atención de Meta, según el medio.

Por ejemplo, Richard Pauwels, bombero y paramédico retirado del condado de Los Ángeles que estaba construyendo una marca de bienestar en las plataformas de Meta, afirmó que su cuenta personal fue prohibida sin que se identificara ninguna publicación específica y sin revisión humana, según TechCrunch.

Las violaciones automatizadas alegadas de explotación sexual infantil (CSE, por sus siglas en inglés) son otra ocurrencia común que conduce a prohibiciones, las cuales son devastadoras para partes inocentes, según el reporte.

Por ejemplo, un profesional de relaciones públicas se comunicó con TechCrunch, pidiendo permanecer anónimo porque su cuenta fue prohibida por acusaciones falsas de CSE, a pesar de que no se citó ningún contenido en su prohibición y no había publicado nada nuevo en semanas. La alegación de Meta fue "malvada y vil", dijeron, y presentaron un caso ante el Consejo de Supervisión, según el medio.

Otra persona, Manomi Jayakody, dijo que su cuenta también fue prohibida por CSE, nuevamente sin que se señalara ningún contenido, acción o violación específica, según TechCrunch.

"Entiendo completamente y apoyo la importancia crítica de la aplicación de CSE y la seguridad en línea. Sin embargo, cuando las cuentas se marcan bajo categorías tan serias sin el debido proceso, transparencia o supervisión humana consistente... las consecuencias para usuarios inocentes son severas", escribieron a TechCrunch y otros reporteros en un correo electrónico. "En mi caso, no recibí ninguna explicación, ninguna evidencia y ninguna oportunidad de aclarar o corregir ningún problema alegado", según el reporte.

En otro ejemplo, una operación de rescate de aves, de todas las cosas, fue prohibida por material de CSE, según TechCrunch. "Es una cuenta sobre nuestras palomas de rescate. Tiene más de 60,000 seguidores, y regularmente usamos esa cuenta para contactar a otros voluntarios que rescatan aves y encontrar adoptantes o asistencia médica para todas las aves que ayudamos", suplicaron en un correo electrónico a TechCrunch, según el medio.

Otro creador de contenido, Albert Olgaard, con 325,000 seguidores en Instagram, dijo que sus cuentas de Meta para su negocio fueron cerradas de la noche a la mañana por alegaciones de "fraude", sin citas de lo que hizo mal, según TechCrunch. Cuando intentó apelar, un mensaje en la pantalla decía: "No puedes solicitar otra revisión de esta decisión". La medida lo impactó financieramente, dijo, según el reporte.

El diseñador Alex Smola también despertó un día para encontrar su cuenta permanentemente desactivada, según TechCrunch. "La cuenta estaba vinculada a actividad comercial legítima, incluyendo acceso a páginas, comunicación con clientes, marketing, publicidad y generación de leads", escribió Smola en un correo electrónico a TechCrunch. "Desde la eliminación, he sufrido interrupción comercial continua, daño reputacional y estrés significativo, mientras no puedo obtener ninguna revisión humana significativa a través de los canales de soporte de Meta", según el medio.

Eso refleja muchas otras quejas que TechCrunch recibió de suscriptores de Meta Verified que dijeron que no obtuvieron el soporte por el que pagaron a través de la suscripción, según el reporte. Una persona incluso dijo que el agente de Meta terminó su chat cuando hicieron referencia a la regulación de la Unión Europea, GDPR, según TechCrunch.

Estos son solo una muestra de los reportes que TechCrunch ha recibido desde que cubrió el tema, y los correos electrónicos entrantes continúan de personas desesperadas por ayuda, según el medio.

Recomendaciones del Consejo de Supervisión

Como ilustran estos ejemplos y otros, existen preocupaciones de debido proceso en torno a las prohibiciones de cuentas, según TechCrunch. Como resultado, el consejo está recomendando que Meta ofrezca a los usuarios un panel de control donde puedan revisar fácilmente las estadísticas de su cuenta, violaciones pasadas e información sobre opciones de apelación, junto con notificaciones claras sobre las violaciones en el momento en que se imponen, según el informe del consejo.

Estas advertencias o reportes de violación deben incluir el momento en que se impusieron, la regla específica que se violó, la sanción impuesta y las opciones de apelación, según el consejo.

Además, el consejo dice que Meta debe proporcionar a los usuarios información sobre el papel que juega la inteligencia artificial en la revisión de contenido y la imposición de advertencias o penalizaciones, entre otras cosas, según TechCrunch.

En respuesta al informe del consejo, Meta compartió la siguiente declaración con TechCrunch: "Damos la bienvenida a la decisión del Consejo de Supervisión sobre este caso. El Consejo confirmó la decisión de Meta de desactivar permanentemente una cuenta. Después de realizar una revisión de las recomendaciones proporcionadas por el Consejo, actualizaremos esta publicación con respuestas iniciales a esas recomendaciones", según la compañía.

El caso pone de relieve los desafíos que enfrentan las grandes plataformas tecnológicas al equilibrar la moderación de contenido a escala con los derechos de los usuarios individuales. Con miles de millones de usuarios en sus plataformas, Meta ha dependido cada vez más de sistemas automatizados para identificar y eliminar contenido que viola sus políticas. Sin embargo, estos sistemas automatizados han demostrado ser propensos a errores, y la falta de recursos humanos para revisar apelaciones ha dejado a muchos usuarios sin opciones cuando son sancionados injustamente.

El Consejo de Supervisión, establecido por Meta en 2020 como un organismo independiente para revisar decisiones de moderación de contenido controvertidas, ha emitido múltiples recomendaciones a la compañía en los últimos años. Sin embargo, Meta no está obligada a implementar todas las recomendaciones del consejo, aunque la compañía ha indicado que considera seriamente sus hallazgos.

La investigación del consejo llega en un momento en que las plataformas de redes sociales enfrentan un escrutinio creciente de reguladores en todo el mundo sobre sus prácticas de moderación de contenido y protección de usuarios. La Unión Europea, en particular, ha implementado regulaciones estrictas bajo la Ley de Servicios Digitales que requieren que las plataformas proporcionen mayor transparencia y opciones de apelación a los usuarios.