Durante su campaña en octubre pasado, Rinaldi utilizó su teléfono desde su cama para generar mediante inteligencia artificial noticias falsas y respaldos que nunca recibió, según el expediente del fiscal. Una de las publicaciones, diseñada para parecer auténtica con el logotipo de CNN, afirmaba que Lynn Schulman, su oponente y demócrata en funciones, había sido "obligada a abandonar la carrera debido a una serie de errores críticos", según The Guardian. Schulman nunca abandonó la campaña y en noviembre ganó por amplio margen.

El candidato de 47 años, escéptico de las vacunas y donante serial de esperma según la fuente, compartió ese contenido en Facebook e Instagram. Rinaldi defiende que sus publicaciones eran "arte" y discurso político protegido. "Hice memes y sátira política; nada de lo que hice es falso", dijo. Sin embargo, funcionarios locales lo acusaron de defraudar a los votantes, resultando en su arresto por cargos de falsificación de menor grado.

"Las campañas están llenas de mentiras, está bien", dijo Rinaldi a The Guardian en una entrevista. "Lo que estoy diciendo es que no estoy haciendo nada diferente a nadie más".

El caso Rinaldi y el debate nacional sobre regulación

Aunque este tipo de aplicación de la ley es rara, y las leyes utilizadas para presentar cargos contra Rinaldi son anteriores y no requieren el uso de IA, el presunto engaño en el centro del caso es emblemático de un tenso debate nacional sobre la regulación de la inteligencia artificial en comunicaciones políticas, según The Guardian.

Rinaldi disputa haber violado alguna ley y expresa preocupación por las implicaciones para la libertad de expresión de ser arrestado por actividad en línea. "Es muy importante que la policía no pueda arrestarte por quejas sobre publicaciones en redes sociales creadas por IA", dijo.

Según el expediente del fiscal citado por The Guardian, Rinaldi utilizó IA para crear una imagen de su oponente vistiendo una camiseta que decía "Chicas Calientes por Zohran". También publicó imágenes y videos afirmando falsamente que contaba con el respaldo de numerosos grupos locales, incluyendo un distrito policial, estudiantes de una escuela primaria y un grupo de interés judío. Niños inventados, algunos con los puños en alto, coreaban frente a un edificio etiquetado como PS 101 Queens: "Hazlo real. Hazlo Rinaldi. Deja que nuestras voces brillen".

Según el documento, Heather Bennett-Idels, fundadora de la Alianza Judía de Queens, confrontó a Rinaldi después de que compartiera una imagen promocionando el respaldo del grupo hacia él. El grupo había, de hecho, respaldado a su oponente. "Es deshonesto tener algo falso publicado", le dijo. "Es política", respondió Rinaldi, según The Guardian.

La proliferación de anuncios generados por IA

Los anuncios generados por IA están en todas partes esta temporada electoral, según The Guardian. Mayormente exaltan a candidatos o se burlan de sus oponentes, a menudo pagados por grupos externos no afiliados a los candidatos. Pero su uso generalizado y el ocasional mal actor están alimentando preocupaciones de que el contenido político engañoso podría manipular a los votantes y amplificar la desinformación antes de las elecciones de mitad de mandato de noviembre.

En carreras primarias del Congreso en todo el país, anuncios generados por IA que llaman la atención ya están generando controversia, según la fuente. Un video representaba a James Talarico, candidato demócrata al Senado de Texas, vestido como María de La Novicia Rebelde cantando una versión de Mis Cosas Favoritas sobre niños trans. Otro sugería que Thomas Massie, congresista conservador de Kentucky, estaba "en un trío" con miembros progresistas del "Escuadrón": mostrando a los legisladores tomados de la mano mientras se registraban en una habitación de hotel. Spencer Pratt, candidato a alcalde de Los Ángeles, asumió el papel de Batman y retrató a su oponente Karen Bass como el Joker en un espectáculo digital bizarro que obtuvo millones de vistas y ayudó a impulsarlo de forastero marginal a contendiente serio.

"La mayoría de estos anuncios no están tratando de convencer a la gente", dijo Bruce Schneier, académico y profesor en la Escuela Kennedy de Harvard, según The Guardian. "Se tratan de señalización social. Lo importante es: mi equipo puede burlarse de tu equipo".

Incluso el presidente es fanático, según la fuente. Donald Trump se ha inclinado fuertemente hacia la "propaganda descuidada" de IA, retratándose como un rey adornando la portada de la revista Time, un papa y un Jedi empuñando un sable de luz. También compartió un video racista que representaba al expresidente Barack Obama y su esposa Michelle como simios, alimentando una intensa reacción negativa. Trump posteriormente eliminó la publicación. Durante la elección presidencial de 2024, tanto él como Elon Musk compartieron imágenes generadas por IA de Kamala Harris en mítines comunistas. Justo la semana pasada, Trump publicó un video de IA de sí mismo posando como médico, con un estetoscopio alrededor del cuello, afirmando haber curado a algunos de sus críticos más famosos del "síndrome de trastorno por Trump", según The Guardian.

Usos más engañosos y preocupación pública

Algunos usos de IA han sido más engañosos, según la fuente. En la primaria presidencial de 2023, Ron DeSantis, gobernador de Florida, publicó lo que parecía ser una imagen generada por IA de Trump abrazando al doctor Anthony Fauci, quien se había convertido en objetivo de la ira republicana por su estrategia de respuesta a la pandemia. En enero de 2024, un consultor político envió llamadas automáticas generadas por IA imitando a Joe Biden a miles de votantes dos días antes de la primaria presidencial del estado; el Biden falso sugería que la gente votara en la elección de noviembre en su lugar, y que su boleta no haría diferencia en enero.

Los expertos advierten que las nuevas herramientas sofisticadas de IA han hecho mucho más fácil fabricar y amplificar desinformación a escala masiva, según The Guardian. El público comparte esas preocupaciones también. Una encuesta de marzo de 2026 de PBS News, NPR y Maris encontró que el 85% de los estadounidenses dice que es probable que el contenido político generado por IA difunda desinformación sobre las elecciones de noviembre. La escala de desconfianza se mantuvo entre demócratas, republicanos e independientes.

El Centro Brennan para la Justicia está presionando a la Comisión Federal Electoral para que actúe decisivamente sobre "contenido deliberadamente engañoso producido por IA" por temor a que las falsificaciones profundas que suplantan a candidatos "probablemente se conviertan en una herramienta cada vez más efectiva para defraudar a los donantes", según The Guardian. La ley estadounidense prohíbe a los candidatos federales y sus agentes tergiversarse fraudulentamente a sí mismos como "hablando o escribiendo o actuando de otra manera" en nombre de otro candidato o partido político "sobre un asunto que es perjudicial" para quien está siendo tergiversado. Pero eso no siempre se traduce en aplicación de la ley.

Marco regulatorio y respuesta estatal

Aunque generalmente existe un alto estándar para proteger el discurso político, más de 30 estados han promulgado leyes que regulan el uso de falsificaciones profundas en mensajes políticos, según The Guardian. La mayoría se centran en divulgaciones, como declarar la inclusión de falsificaciones profundas e IA, o destacar quién pagó por el anuncio. Minnesota y Texas prohíben el uso de falsificaciones profundas durante cierto número de días previos a una elección. Las prohibiciones de falsificaciones profundas de California y Hawái fueron anuladas por tribunales federales por ser demasiado amplias e infringir la primera enmienda.

"Todo el marco regulatorio existente que tenemos en torno a la comunicación política es bastante confuso y hay una larga historia de esa confusión que lleva a la confusión y a una aplicación muy pobre y no rigurosa de las reglas", dijo Nathan Sanders, científico de datos en Harvard, según la fuente.

Perspectiva de la industria: ¿democratización o amenaza?

Muchos consultores políticos reconocen los riesgos de malos actores usando IA pero argumentan que las herramientas pueden tener un efecto democratizador, según The Guardian. La publicidad y los medios son tradicionalmente la parte más costosa de una campaña política. Ahora, el acceso a herramientas de IA gratuitas o de bajo costo significa que los candidatos con menos dinero pueden crear contenido que está a la par con oponentes que tienen presupuestos mucho más grandes, dicen.

"La IA es una herramienta para producir contenido veraz. También puede ser una herramienta para producir contenido no veraz", dijo Julie Sweet, quien lidera el trabajo de la Asociación Americana de Consultores Políticos (AAPC) sobre IA y comunicación política moderna, según The Guardian.

La AAPC produjo un "marco de divulgación significativa" que aconseja a los miembros no publicar contenido en el que audio o video sintético que sea lo suficientemente realista como para confundirse con una grabación genuina, genere palabras que el oponente nunca dijo, o los represente en una reunión o ubicación a la que nunca asistieron. Para casos en los que la IA recrea un evento público específico documentado a partir de informes de noticias, o mejora la foto de un oponente para que se vea desfavorable, vale la pena divulgarlo, dicen. Para usos más inocuos de IA, como traducir el discurso en inglés de un candidato al español, o un clon de voz leyendo el propio guión aprobado del candidato, el grupo dice que la divulgación puede no ser necesaria, según la fuente.

Aunque las opiniones de los miembros sobre la regulación varían, Sweet dice que las advertencias obligatorias por el estado, particularmente las que requieren las palabras "falso" o "manipulado" para el uso de IA en comunicaciones políticas, pueden reducir la confianza con la audiencia, incluso en casos que no tienen nada que ver con el engaño, según The Guardian.

El grupo en cambio aconseja el uso de términos como "dramatización", "simulación", "recreación", "voz sintética", "traducido" e "imagen mejorada o alterada".

Herramientas que incorporan regulaciones

En medio de regulaciones en constante cambio, al menos una herramienta de IA ha incorporado las leyes estatales en su interfaz de usuario, según The Guardian. BattlegroundAI ayuda a los usuarios a construir anuncios de video, imagen y texto para candidatos políticos que cumplan con las regulaciones actuales, incluyendo el número de segundos que debe ejecutarse una advertencia y tamaños de fuente particulares.

"Tal vez esta tecnología está dando a los malos actores una barrera de entrada ligeramente más baja para mentir, pero eso absolutamente no es una representación del colectivo", dijo Maya Hutchinson, fundadora de BattlegroundAI, según la fuente.

El problema antiguo con nuevos desafíos

Los expertos coinciden con la idea de que los candidatos que mienten son tan antiguos como la política misma, según The Guardian. "Las cosas de las que tenemos miedo con la IA son cosas que han sido parte de la política desde el comienzo de la política", dijo Peter Loge, director del proyecto de la Universidad George Washington sobre ética en la comunicación política. En el siglo XVIII, Benjamin Franklin publicó un suplemento falso de un periódico de Boston con noticias falsas sobre los británicos: "tonterías convincentes para objetivos políticos, nada que ver con IA", dice Loge. Aún así, la nueva tecnología plantea desafíos únicos. "La IA hace más fácil mentir a escala más que nunca. Pero el problema no es la tecnología, es la mentira", agrega.

Los políticos que quieren engañar a los votantes ya tienen muchas formas de hacerlo sin IA: pueden filmar a un actor con peluca, o recurrir a Photoshop o imágenes generadas por computadora (CGI), según la fuente.

Implicaciones futuras y próximos pasos

Los investigadores políticos y expertos esperan una explosión de contenido político generado por IA, según The Guardian. A medida que las herramientas gratuitas han reducido dramáticamente las barreras financieras y técnicas, los candidatos ahora pueden producir materiales de campaña pulidos e hiperpersonalizados; en el caso de Rinaldi, desde su cama en Queens. Sin desanimarse por su derrota, ahora está enfocado en una nueva campaña: postularse para la asamblea estatal.

"Estoy utilizando herramientas a mi disposición para ir contra la estructura de poder", dijo Rinaldi, según la fuente. "Y tengo que hacer cosas que ellos no esperan porque si solo hiciera lo mismo que todos los demás hicieron, no tengo oportunidad".