Profesor del MIT advierte sobre sesgos en inteligencia artificial y desigualdad en edición genética

Kenneth Oye, profesor emérito de Ciencias Políticas y profesor de Sistemas de Datos y Sociedad en el MIT, rechazó las preocupaciones sobre una inteligencia artificial general que pueda dominar el mundo y señaló que existen riesgos más inmediatos y concretos que requieren atención urgente. "La gente a veces se preocupa por cosas que a mí no me preocupan tanto. Todo eso de la inteligencia general que va a dominar el mundo, por ejemplo", dijo Oye en una entrevista con El País tras dar una conferencia sobre geopolítica, economía y clima de negocios en la Fundación Ramón Areces.

El director del Programa sobre Tecnologías Emergentes del MIT identificó aplicaciones específicas de la inteligencia artificial que considera más preocupantes: las armas verdaderamente autónomas en defensa, la puntuación crediticia y predicción de impagos en la banca, las decisiones sobre sentencias en criminología, y los procesos de admisiones universitarias o contratación laboral, según declaró a El País.

"En todos esos ámbitos, la gente necesita hablar mucho más sobre los datos de entrenamiento de la IA, porque esos datos incorporarán los efectos de los patrones históricos de discriminación", explicó Oye. El profesor enfatizó que el problema no radica en que los datos estén sesgados en sí mismos, sino en que reflejan los sesgos ya existentes en la sociedad, según sus declaraciones.

Oye, hijo de inmigrantes japoneses nacido en Filadelfia en 1949, comenzó su carrera interesándose por el lenguaje de programación a los 16 años, pero posteriormente se volcó hacia la economía y las relaciones internacionales. Décadas después, los temas tecnológicos le encontraron nuevamente en el MIT, donde ingenieros le preguntaban si sus invenciones tenían implicaciones políticas, según relató a El País.

En cuanto a la edición genética, el politólogo expresó una preocupación particular sobre su uso para la amplificación de capacidades humanas, más que para fines terapéuticos. "Me preocupa porque ese tipo de tecnología será impulsada en gran medida por la riqueza. Nadie que sea pobre va a tener acceso a ello y eso acentuará todavía más las muchas diferencias que ya marcan la vida según si uno ha tenido la suerte o la desgracia de nacer en una familia rica o pobre", afirmó.

El profesor recordó una conversación que tuvo hace años con militares estadounidenses durante un panel de la Academia Nacional de Ciencias sobre las implicaciones de las tecnologías emergentes para la seguridad. Durante un descanso, escuchó a dos funcionarios del Departamento de Defensa conversando: "Oye, ¿no sería genial poder crear soldados con un umbral de dolor elevado y tolerantes a la privación de sueño?", según relató Oye, quien calificó ese escenario como "inquietante".

Sobre la regulación de datos y privacidad, Oye identificó un dilema fundamental en el sector sanitario. "Queremos que existan protecciones adecuadas para la privacidad: deben ser claras y suficientes para garantizar el derecho de las personas sobre sus propios datos. Por otro lado, esos mismos datos necesitan ser curados", explicó. El profesor compartió una experiencia personal en la que llegó al hospital y el conductor de la ambulancia tenía mal tanto su nombre como su historial clínico, lo que le cambió la perspectiva sobre la necesidad de curar los datos, según declaró a El País.

El problema, según Oye, es que no se pueden curar los datos sin conocer la identidad del paciente, pero si se conoce la identidad, aparecen todos los problemas regulatorios. "Si tomas decisiones con datos erróneos, estás en serios apuros cuando hablamos de innovación farmacéutica o investigación sanitaria", advirtió.

En el ámbito farmacéutico, el profesor del MIT señaló que cuando se construye una muestra de población para investigación, se excluyen personas que toman más de un medicamento o que tienen otros problemas de salud. "Ese 'saneamiento' de la muestra tiene el efecto de convertirla en un grupo donde la efectividad del fármaco quedará exagerada respecto a la población general. Y los problemas de seguridad quedarán enormemente subestimados, porque suelen derivarse de interacciones", explicó Oye.

El politólogo enfatizó que la gente que trabaja con historiales clínicos electrónicos y datos genómicos vinculados a conjuntos de datos actúa con extremo cuidado, utilizándolos para el diagnóstico terapéutico, la prescripción, el descubrimiento de fármacos y la investigación en general, según sus declaraciones.

Respecto a las diferencias regulatorias entre regiones, Oye descartó la posibilidad de una regulación mundial sobre el tratamiento de datos en los próximos años. "No va a ser mundial. Seguirá habiendo grandes diferencias entre Europa, Estados Unidos y China. Incluso dentro de la propia Unión Europea", afirmó.

El profesor abordó el debate sobre exceso o falta de regulación: "En Europa algunos se quejan de que regulamos demasiado; en Estados Unidos, de que regulan demasiado poco", y añadió que en China regulan todavía menos, aunque "es algo más peligroso quejarse", según declaró a El País.

Oye citó la perspectiva de los economistas de la Escuela de Chicago, quienes argumentan que si hay diferencias fiscales o regulatorias, la gente simplemente se moverá a donde se sienta cómoda. Sin embargo, el profesor rechazó esta visión: "El problema, claro está, es que la gente no puede moverse: estás más o menos atrapado donde estás. Lo que sí se moverá es la investigación y la innovación. De Europa a Estados Unidos y China, o al revés, puede ir en cualquier dirección".

El politólogo también planteó una cuestión poco discutida: si la ventaja tecnológica es duradera o efímera. "Puedes ser el primero en llegar a una tecnología, pero las ideas se transfieren con facilidad. Las innovaciones significativas no proporcionan necesariamente una ventaja sostenida. Quizás en algoritmos y métodos de inteligencia artificial sí, pero los datos son otra historia, porque los datos no se comparten necesariamente", explicó.

Sobre las políticas migratorias estadounidenses, Oye señaló que históricamente Estados Unidos ha sido el único país con un saldo positivo en patentes de innovación atribuidas a inmigrantes, con contribuciones enormes procedentes de China, India y Europa Occidental, según declaró. Sin embargo, las políticas del expresidente Trump sobre los visados H-1B han asustado a los estudiantes internacionales, según el profesor.

"Tengo estudiantes de posgrado en el MIT que me han dicho que, si pudieran elegir de nuevo, se habrían ido a Toronto o a Londres", reveló Oye. El profesor explicó que esto ocurre porque cuando se elige un programa de doctorado, a menudo uno se queda en ese país. "Las universidades, las empresas de biotecnología y las de tecnología se están quejando", añadió.

Oye consideró que estas políticas afectarán al equilibrio entre los innovadores que se quedan en Europa y los que van a Estados Unidos, aunque el país que más se beneficiará es Canadá, "porque mudarse allí es relativamente fácil en comparación con, digamos, Suiza", según sus declaraciones. La Unión Europea también se beneficiará gracias a sus buenas universidades, pero "Estados Unidos se está disparando en el pie", concluyó el profesor.

En cuanto al futuro de la inteligencia artificial, Oye presentó una visión dual. Por un lado, señaló que el efecto de la IA podría ser democratizador de forma curiosa: "Los métodos sencillos de aprendizaje automático no son tan caros y los datos digitalizados de acceso público tampoco están monopolizados. En esta línea, muchos de los beneficios de la IA consisten en generar información y análisis que, antes estaban solo en manos de unos pocos, ahora pueden llegar a muchas personas", explicó.

Sin embargo, el profesor advirtió sobre los conjuntos de datos de propiedad privada. "Todo el mundo tiene razón en estar preocupado por Meta, por Google y por las empresas que crean conjuntos de datos para fines especializados, porque los datos son, francamente, la parte más significativa de toda esta conversación", afirmó Oye. El politólogo criticó que los datos no suelen ser el centro del debate, ya que este suele girar en torno a la inteligencia artificial en abstracto, pero a largo plazo, él centraría la atención en los efectos de la creación y la titularidad de los conjuntos de datos de propiedad privada, según declaró a El País.

Las declaraciones de Oye reflejan una perspectiva que prioriza los riesgos concretos y actuales de las tecnologías emergentes sobre especulaciones futuristas, y subrayan la importancia de abordar cuestiones de equidad, sesgos históricos y acceso desigual a innovaciones que podrían ampliar las brechas sociales existentes.