Jie Ding, investigador de aprendizaje automático en la Universidad de Minnesota en Minneapolis, desarrolló una herramienta que puede modificar textos generados por inteligencia artificial para que parezcan escritos por humanos, según informó la revista Nature. El programa, adaptado específicamente para "artículos y propuestas de financiamiento", busca "eliminar las señales reveladoras de IA sin casualizar el texto", según describe el sitio de GitHub donde está alojado.

La herramienta funciona instruyendo a una IA para que elimine sus "tics" característicos de un texto y añada más evidencia para afirmaciones científicas sin respaldo, según Ding. Las directrices incluyen evitar frases de la forma "no solo X, sino Y" y eliminar guiones largos, construcciones que se han asociado con la escritura de IA, según el sitio web de la herramienta.

Max Spero, director ejecutivo de Pangram, una firma de Nueva York que produce una plataforma de detección de IA, calificó el nuevo humanizador como "no sofisticado". En sus pruebas iniciales de texto "humanizado", Pangram detectó la mayoría del lenguaje generado por IA, aunque no todo, según Spero. El ejecutivo indicó que se están diseñando versiones mejoradas de Pangram específicamente para detectar el uso de humanizadores.

La herramienta ha recibido elogios de algunos científicos. "Estoy usando mucho la herramienta", principalmente para ayudar con la redacción de correos electrónicos y documentación de código, dijo Francisco Maria Calisto, investigador de informática de la salud en la Universidad de Lisboa. "Es la mejor que he usado", añadió.

Sin embargo, otros investigadores expresan preocupación por las implicaciones éticas. "No me gusta", dijo Miguel Angel Blazquez Rodriguez, biólogo de plantas en la Universidad Politécnica de Valencia en España. "Es engañoso", agregó.

Rodriguez y otros temen que los humanizadores tentarán a más científicos a usar IA sin revelarlo. "Temo que el caso de uso sea perjudicial para la ciencia", dijo Cassidy Sugimoto, científica de la información en la Universidad Carnegie Mellon en Pittsburgh, Pensilvania. "Estoy preocupada", añadió.

Consultado sobre estas preocupaciones, Ding respondió: "Separaría la herramienta del comportamiento", agregando que no revelar la asistencia de IA cuando se requiere es una falta de conducta, independientemente de cómo se produjo un texto. "El problema ético es la no divulgación y la intención detrás de ella, no la existencia de una ayuda de edición", dijo.

Tras ser preguntado sobre el potencial de engaño, Ding realizó actualizaciones al sitio de GitHub, como cambiar la descripción de la función de la herramienta de "elimina las señales usuales de IA" a "agudiza la claridad y la voz", según Nature. También añadió una nota sobre ética y divulgación que, según él, aclara "que la herramienta es una ayuda de edición y no elimina la obligación del autor de revelar la asistencia de IA".

Los humanizadores están encontrando cada vez más favor entre los investigadores que usan IA, según Calisto, porque diferentes IAs "suenan igual". El tono del texto generado por IA a veces es inapropiado para la escritura académica, según Ding. Por ejemplo, las herramientas pueden exagerar la fuerza de una afirmación científica, dijo. Y la mayoría de la producción de IA tiene un estilo similar, del cual los lectores se cansan, agregó.

Ding adaptó un humanizador desarrollado previamente para contenido académico. Su versión indica a una IA que elimine sus características distintivas de un texto y añada más evidencia para afirmaciones científicas sin respaldo, según la fuente. Cualquiera puede copiar las directrices de Ding en su IA e indicarle que aplique las reglas, según el sitio web de la herramienta.

El desarrollo de esta tecnología plantea interrogantes sobre la integridad científica en una era donde la inteligencia artificial se integra cada vez más en el proceso de investigación y escritura académica. La tensión entre el uso de IA como herramienta de asistencia legítima y su potencial para el engaño representa un desafío creciente para la comunidad científica, que tradicionalmente se ha basado en la transparencia y la divulgación completa de métodos y procesos.