TikTok retira resúmenes generados por inteligencia artificial tras errores absurdos que describían a celebridades como frutas

La compañía de redes sociales TikTok implementó recientemente una función llamada "resúmenes de inteligencia artificial" que aparecía debajo del contenido en la plataforma para describir lo que mostraba un video o proporcionar más contexto, según informó la BBC. Sin embargo, la herramienta generó descripciones incorrectas y extrañas que fueron ampliamente compartidas por usuarios.

Según TikTok, los resúmenes experimentales han sido modificados para sugerir únicamente productos similares a los mostrados en los videos. La función operaba de manera similar a los resúmenes de inteligencia artificial que aparecen en la parte superior de la mayoría de los resultados de búsqueda de Google, intentando resumir el contenido de los videos cuando los usuarios hacían clic para ver más del título de un video.

Algunos ejemplos capturados en pantalla por usuarios y vistos por la BBC mostraron videos en la plataforma siendo descritos con precisión, pero Business Insider identificó varios resúmenes de inteligencia artificial "tremendamente inexactos". Esto incluyó uno que describía un video de la bailarina Charli D'Amelio como "una colección de varios arándanos con diferentes coberturas", según reportó la publicación.

La función también generó resúmenes vagos, inexactos y extraños en otros videos de TikTok de celebridades y artistas, incluyendo a Shakira y Olivia Rodrigo, según Business Insider.

Un ejemplo reciente compartido en Reddit describía una actuación de los bailarines de salón Reagan y Juli To en un resumen de inteligencia artificial de TikTok como "una persona golpeando repetidamente su cabeza con un pollo de goma". Otros ejemplos compartidos por usuarios de TikTok contenían descripciones igualmente extrañas. Por ejemplo, los resúmenes de inteligencia artificial para dos videos separados, ninguno de los cuales presentaba violencia o herramientas, decían que mostraban "una persona golpeando repetidamente su cabeza con un martillo".

Las publicaciones que reaccionaban a las pruebas de TikTok de resúmenes de inteligencia artificial en sus videos comenzaron a aparecer en enero, según la BBC. Sin embargo, parece que los resúmenes se hicieron más ampliamente disponibles, con varios usuarios y creadores destacando descripciones generadas por inteligencia artificial que contenían errores absurdos a finales de abril.

Según TikTok, los usuarios podían reportar y proporcionar retroalimentación sobre los resúmenes de inteligencia artificial. Pero esto no impidió que algunos especularan sobre si la plataforma estaba "trolleando" a sus usuarios. "El nuevo resumen de inteligencia artificial es tan malo que parece que tiene que ser una broma", escribió el usuario y creador de TikTok Brett Vanderbrook junto a su video. Mostró una serie de ejemplos donde la función de inteligencia artificial de TikTok inventó descripciones bizarras de lo que estaba sucediendo en los videos, como un sketch de comedia descrito como alguien "demostrando una nueva y astuta técnica para cortar a través del agua".

TikTok afirma que ha identificado la causa de los errores e inconsistencias en los resúmenes de inteligencia artificial, sin detallar cuál fue, según la BBC. Sin embargo, las herramientas de inteligencia artificial generativa a menudo inventan cosas cuando responden a los usuarios, resumen o generan información, y los errores pueden variar desde ser hilarantes hasta potencialmente dañinos en naturaleza.

Google fue ampliamente ridiculizado en 2024 después de que sus resultados de resúmenes de inteligencia artificial dijeron a los usuarios que comieran rocas y "pegaran pizza con pegamento", según la BBC. Apple posteriormente enfrentó críticas después de que una herramienta de inteligencia artificial diseñada para resumir notificaciones creara titulares falsos para las aplicaciones de BBC News y New York Times.

Desde entonces, el desarrollo de inteligencia artificial ha continuado, con empresas afirmando que la tecnología ha mejorado enormemente en capacidad y precisión, pero las llamadas "alucinaciones" persisten, según la BBC. Sin embargo, OpenAI, creador de ChatGPT, dijo recientemente que identificó las palabras "goblin" y "gremlin" infiltrándose en las respuestas de sus sistemas, una peculiaridad que cree surgió después de que una herramienta que entrenó para tener una personalidad nerd incentivara mencionar a las criaturas.

La decisión de TikTok de reducir el alcance de esta función llega en un momento en que las empresas tecnológicas buscan implementar más productos de inteligencia artificial en sus plataformas para impulsar la participación de los usuarios, según la BBC. Sin embargo, algunos de estos esfuerzos han sido recibidos con rechazo de los usuarios, o burlas, cuando estas herramientas fallan.