Miembro del Consejo de Supervisión de Meta exige protecciones independientes urgentes para la inteligencia artificial

La inteligencia artificial está reconfigurando la vida cotidiana con una rapidez sin precedentes, pero a diferencia de revoluciones tecnológicas anteriores como la radio, la fisión nuclear o internet, los gobiernos no están liderando el proceso, según advierte Suzanne Nossel, miembro del Consejo de Supervisión de Meta y autora del libro 'Dare to Speak: Defending Free Speech for All'.

En un artículo publicado en The Guardian, Nossel señala que aunque se conocen los peligros de la IA, como chatbots que asesoran a adolescentes sobre suicidio y que pronto podrían ser capaces de instruir sobre cómo crear armas biológicas, no existe un equivalente a la Administración de Alimentos y Medicamentos de Estados Unidos que pruebe la seguridad de nuevos modelos antes de su lanzamiento público. A diferencia de la industria nuclear, las empresas tecnológicas frecuentemente no están obligadas a divulgar brechas o accidentes peligrosos, según la autora.

La regulación federal en Estados Unidos se ha mantenido a raya debido al poder de cabildeo de la industria tecnológica, la polarización paralizante en Washington y la complejidad de una tecnología tan potente y de rápida evolución, explica Nossel. Los funcionarios europeos enfrentan resistencia contra normas que algunos afirman obstaculizan la competitividad del continente. Aunque varios estados estadounidenses están implementando leyes piloto sobre IA, operan en un mosaico tentativo y el presidente Donald Trump ha intentado invalidarlas, según el artículo.

Los directivos de plataformas de IA como ChatGPT de OpenAI y Gemini de Google afirman preocuparse por la seguridad, pero poseer el futuro de la IA implica invertir miles de millones en modelos que ni siquiera sus creadores comprenden completamente, y tomar decisiones como agregar publicidad y las capacidades que el Pentágono ahora busca de Anthropic, que aumentan el riesgo, según Nossel. Anthropic, que se presenta como la empresa de IA fronteriza más consciente, dice que su modelo está entrenado para "imaginar cómo un empleado senior reflexivo de Anthropic" sopesaría la utilidad frente al posible daño. Esta directiva hace eco de críticas formuladas hace años sobre empresas de Silicon Valley que moldearon las vidas de usuarios en todo el mundo desde salas de juntas aisladas, señala la autora.

Los consumidores no creen estar en buenas manos. El 77% de los estadounidenses encuestados el año pasado piensan que la IA podría representar una amenaza para la humanidad, según datos citados por Nossel.

La autora argumenta que la sociedad no está atrapada entre la esperanza elusiva de una regulación gubernamental robusta y permitir que las empresas más poderosas de la historia se autorregulen. Al menos hasta que los legisladores actúen, la supervisión independiente ofrece el potencial de arbitrar entre el potencial de la IA y sus peligros. Al adoptar supervisión independiente, las empresas de IA pueden demostrar que son lo suficientemente serias sobre la confianza pública como para estar dispuestas a luchar por ella, sostiene.

La lógica detrás de la supervisión independiente es directa, explica Nossel. Sin importar las buenas intenciones de los ejecutivos corporativos, sus deberes hacia accionistas e inversores moldean cómo abordan las compensaciones entre costo y seguridad, incentivando ingresos y ganancias. Aunque consideraciones a largo plazo de reputación corporativa, lealtad del cliente y ética pueden actuar como frenos, ganar la carrera de la IA exige apetito por el riesgo. Los ajustes de cuentas tardíos sobre cómo las redes sociales podrían alimentar asesinatos, manipular elecciones y perjudicar la salud mental juvenil ilustran cómo el poder embriagador de la tecnología puede oscurecer señales de advertencia parpadeantes, según la autora.

La supervisión independiente de la IA ofrece el potencial de sacar a la superficie, analizar y abordar sus riesgos, dando a defensores y comunidades un poco más de control sobre cómo estas tecnologías rehacen la sociedad, argumenta Nossel. Las redes sociales proporcionan un ejemplo. En 2020, golpeada por acusaciones de que ayudó a alimentar la crisis rohingya en Myanmar, Meta (entonces Facebook) creó un consejo de supervisión, esperando sacar a la empresa del banquillo. A principios del año siguiente, la empresa adoptó una política comprometiéndose a seguir la ley de derechos humanos. Aunque el consejo, ahora de cinco años, no ha alcanzado lo que algunas personas esperaban que sirviera como una "corte suprema de Facebook", su historial ofrece lecciones clave sobre las perspectivas de supervisión independiente efectiva para la IA y por qué importa, según la autora.

La supervisión exige perspectivas diversas, señala Nossel. Como otras empresas de IA fronteriza, Meta tiene usuarios en todos los continentes poblados. Decidir qué pueden y no pueden publicar desde la seguridad de un campus en Menlo Park dejó puntos ciegos y avivó resentimientos. Los 21 miembros del consejo de supervisión aportan amplia experiencia cultural y profesional a la adjudicación de cuestiones sensibles de moderación de contenido, como si un video violento debería poder compartirse como noticia o eliminarse como afrenta a la dignidad de la víctima. El consejo, con miembros que han vivido en más de 27 países, incluye conservadores y liberales, periodistas, académicos legales, una ex primera ministra de Dinamarca y un laureado con el Premio Nobel de la Paz, según el artículo.

El consejo de supervisión utiliza los propios "estándares comunitarios" de Meta para evaluar si las publicaciones violan reglas que incluyen prohibiciones contra el acoso o apoyo a terroristas. El consejo responsabiliza a Meta de su promesa de respetar la ley internacional de derechos humanos, incluido el Artículo 19 del Pacto Internacional de Derechos Civiles y Políticos, que consagra la libertad de expresión. Las empresas de IA deberían hacer el mismo compromiso y establecer supervisión para responsabilizarlas, sostiene Nossel. A diferencia de la Primera Enmienda en Estados Unidos o el "derecho al olvido" en línea de la Unión Europea, la ley de derechos humanos ofrece una moneda común a través de fronteras. Sus normas proporcionan métodos de razonamiento para guiar decisiones sobre IA, como si la negativa de un bot a responder una pregunta niega injustificadamente el derecho a la información de un usuario, o si la reutilización de datos de usuario viola derechos de privacidad, explica la autora.

La accesibilidad, consulta y transparencia son clave, según Nossel. El consejo de supervisión acepta apelaciones del público, anuncia los casos que elige revisar, invita comentarios públicos y convoca sesiones con expertos y comunidades relevantes. Ha emitido más de 200 decisiones en opiniones escritas detalladas que han sido citadas por tribunales en todo el mundo.

Un organismo de supervisión voluntario es tan fuerte como los poderes que le otorga su empresa originaria, advierte la autora. Aunque el consejo de supervisión quisiera poderes más amplios, ha dado crédito a Meta por ir mucho más allá de los consejos asesores ligeros que otros actores tecnológicos han convocado y disuelto periódicamente. El consejo de supervisión de Meta tiene jurisdicción para decidir si un contenido específico permanece o se elimina, aunque usar esa autoridad sobre publicaciones individuales puede sentirse como combatir un incendio forestal soplando brasas. Su impacto más consecuente radica en elegir casos emblemáticos de contenido erróneo, ofrecer razonamiento público para decisiones y emitir recomendaciones a las que Meta debe responder. Meta ha implementado el 75% de las más de 300 recomendaciones del consejo, según se informó en diciembre, lo que ha llevado a cambios significativos para miles de millones de usuarios, según Nossel.

Estos cambios incluyen proporcionar notificaciones sobre qué política se alega que un usuario ha violado cuando el contenido desaparece, asegurar que burlas retóricas y sátira no se eliminen como amenazas, y garantizar que la empresa aumente recursos en crisis como desastres naturales y conflictos armados, detalla la autora. El consejo también emite opiniones consultivas detalladas sobre cuestiones políticas más amplias, como la extensión de indulgencia de Meta para violaciones de políticas por parte de publicadores de alto perfil, o cuánta desinformación relacionada con COVID-19 debería eliminarse a medida que la pandemia disminuía. Aunque el consejo opera independientemente al tomar sus decisiones y recomendaciones, depende de Meta para información crucial como si determinaciones de contenido específicas son hechas por seres humanos o automatización, y qué salió mal precisamente cuando el contenido fue eliminado erróneamente. Las empresas de IA tendrán que ofrecer al menos tanta visibilidad para que la supervisión tenga algún significado, argumenta Nossel.

Como siempre, el dinero importa, señala la autora. Meta periódicamente coloca la financiación del consejo de supervisión en un fideicomiso para que no pueda cortarse de la noche a la mañana. Pero recursos más diversificados y asegurados mejorarían la independencia del consejo. La supervisión de tecnología de vanguardia cuesta dinero. Requiere financiación para un personal experto que apoye el análisis y la toma de decisiones, y consultores que aporten experiencia cultural y lingüística específica. Dados los cientos de miles de millones que se están invirtiendo en IA, sin embargo, el precio incluso de una supervisión robusta es insignificante, según Nossel.

La IA está apoderándose de aulas, universidades y corporaciones. La supervisión independiente es lo mínimo que las empresas de IA pueden hacer para asegurarse de que, consciente o inconscientemente, no se apoderen también de nuestros derechos, concluye la autora.