Barcelona impulsa la ética en la inteligencia artificial como ventaja competitiva y servicio ciudadano

En un evento organizado por Retina en Barcelona, expertos y responsables públicos debatieron sobre los límites éticos y las oportunidades que ofrece la inteligencia artificial (IA) en el ámbito de las administraciones públicas y las empresas. El encuentro, celebrado en el estudio Toresky de L'Eixample, contó con la participación de representantes del Ayuntamiento de Barcelona, la Generalitat de Catalunya y especialistas académicos que coincidieron en señalar que la ética no solo es un imperativo moral sino también una ventaja competitiva.

Michael Donaldson, director general de BIT Habitat del Ayuntamiento de Barcelona, destacó que las ciudades enfrentan problemas cada vez más complejos como "el cambio climático, la brecha digital, la movilidad sostenible, la energía y la soberanía tecnológica", para los cuales las estructuras administrativas tradicionales no están completamente preparadas. Según Donaldson, "la clave es solucionar problemas relevantes de una manera responsable" y advirtió que "buscar respuestas simples a interrogantes difíciles nos conduce muy cerca del populismo".

El Consistorio barcelonés ha establecido "criterios innegociables" en el uso de la IA, entre los que destacan la no discriminación ética, la protección de la identidad digital, la privacidad de los datos y el respeto a derechos fundamentales como la salud, la educación y el trabajo. "Es ahí donde podemos aportar valor añadido de cara al bien común", explicó Donaldson.

Un ejemplo práctico de esta filosofía se implementó durante la pandemia en 2020, cuando el Ayuntamiento utilizó drones para monitorizar la distancia social en las playas. Estos dispositivos volaban a gran altura para garantizar que las imágenes carecieran de calidad suficiente para identificar personas, preservando así el anonimato. A pesar de estas precauciones, la iniciativa generó algunas quejas ciudadanas.

Actualmente, el Ayuntamiento trabaja en mejorar la velocidad del transporte público mediante cámaras con IA que captan incidencias en carriles especiales. Aunque estas cámaras son de alta precisión, el sistema borra automáticamente a las personas de las imágenes, limitándose a registrar matrículas. "Además tenemos un protocolo que nos ayuda a discernir cuándo existe un alto riesgo; entonces se activan medidas extras de garantía, sobre todo si hablamos de datos personales y en temas de servicios sociales", detalló Donaldson.

Entre los proyectos innovadores, destaca una instalación que generará melodías a partir de los datos de movimiento de los ciudadanos, convirtiendo los patrones urbanos en notas musicales. "Queremos que la gente entienda que la IA no está sólo al alcance de ciertos sectores sino que forma parte de nuestra vida", explicó Donaldson, quien también mencionó la participación de Barcelona en una red que agrupa a más de 60 ciudades y la plataforma Decidim, de código abierto, utilizada por más de 300 entidades públicas internacionales.

Por su parte, Irene Unceta, profesora de la escuela de negocios Esade, aportó una perspectiva académica al debate, señalando que "la ética es una cualidad intrínsicamente humana, y en tanto que humana pertenece a las personas". Unceta advirtió contra la "antropomorfización tecnológica", es decir, atribuir a la IA propiedades humanas que no le corresponden.

Según la experta, la ética debe ser transversal y estar presente en todas las fases del desarrollo tecnológico, desde la concepción hasta la implementación. Esto implica plantearse preguntas como: "¿Para qué estoy haciendo esto? ¿Qué quiero conseguir? ¿Cómo procesaré el dato? ¿Qué cara va a tener este modelo? ¿De qué manera interactuará con el usuario?". Unceta subrayó que "lo importante es cómo lo diseñas" y que las consideraciones éticas deben estar presentes desde el inicio del proceso, no como una reflexión posterior.

La profesora de Esade también abordó el concepto de autonomía en relación con la IA, definiéndola como "la capacidad de alinearse con principios y valores". Alertó sobre cómo la IA puede afectar esta autonomía "cuando me plantea determinados estereotipos" o a través de mecanismos como el scroll infinito, que influyen en la toma de decisiones. "En muchas ocasiones la IA restringe nuestro marco de actuación", advirtió, por lo que "hay que pensar en cómo diseñar tecnologías desde esas tres dimensiones: autenticidad, agencia y autoridad".

Jaume Miralles, recientemente nombrado director general de Inteligencia Artificial, Eficiencia y Datos en la Administración de la Generalitat de Catalunya, estableció una clara línea roja: "La IA no decidirá: serán las personas". Miralles enfatizó que "se automatizarán las tareas que la sociedad acepte" como parte de un contrato social.

Uno de los principales desafíos identificados por Miralles es la transversalidad, ya que diversas instituciones como "los Mossos d'Esquadra, los hospitales, las escuelas, entre otros, tienen una cierta necesidad de proporcionar información a los ciudadanos". Por ello, "el primer reto es unificar con el fin de que sea una IA responsable también en su uso", explicó.

La Generalitat trabaja actualmente en un buscador similar a Google pero conectado a la Administración, que permitirá realizar trámites y verificar su validez en tiempo real, o rellenar formularios mediante comandos de voz. "La idea base es facilitar la vida de los ciudadanos", afirmó Miralles.

El director general, que procede del sector privado, aportó una observación relevante sobre las limitaciones de la IA: "La IA como máquina que se entrena en base a patrones funciona muy bien con los casos mayoritarios y patina con los minoritarios. Las minorías suelen ser los extremos más vulnerables. La clave es que esas situaciones se detecten desde el principio y, directamente, no vayan a la IA sino a las personas".

Miralles está desarrollando una inteligencia artificial más localizada que "alucine" menos gracias a un conocimiento específico adaptado a las necesidades regionales. "Controlo el corpus, controlo la tarea", resumió, aunque también se mostró convencido de la importancia de la colaboración público-privada en este ámbito.

El evento, organizado por Retina con Santander como impulsor, Google como socio anual y con la colaboración de HP, puso de manifiesto que la implementación de una IA responsable no solo es un imperativo ético sino también una oportunidad para mejorar la vida de los ciudadanos y generar confianza en las instituciones públicas y privadas.