El incidente ocurrió cuando estudiantes de cuarto grado de la escuela primaria Delevan Drive en Eagle Rock, Los Ángeles, recibieron una tarea: escribir un reporte sobre Pippi Calzaslargas y crear una portada de libro usando dibujos o inteligencia artificial. Cuando la hija de Jody Hughes ingresó en Adobe Express for Education la descripción "medias largas una niña pelirroja con trenzas paradas", el software no produjo nada parecido al personaje sueco de literatura infantil que había descrito con precisión. En cambio, utilizando inteligencia artificial recientemente añadida, generó imágenes sexualizadas de mujeres en lencería y bikinis, según Hughes.

Hughes contactó rápidamente a otros padres, quienes dijeron que pudieron reproducir resultados similares en sus propias computadoras Chromebook proporcionadas por la escuela. Días después, el grupo de padres Schools Beyond Screens informó a la junta escolar de Los Ángeles que se oponían al uso continuado del software de Adobe, según reportó LAist.

Un portavoz del distrito escolar dijo a CalMatters que las imágenes generadas por el modelo de inteligencia artificial no se alinean con los estándares del distrito y que "estamos colaborando con Adobe para abordar el problema". Charlie Miller, vicepresidente de Educación de Adobe, dijo que la compañía implementó cambios para abordar el problema dentro de las 24 horas posteriores a enterarse del incidente. Miller no respondió a preguntas sobre cómo se evaluó la herramienta antes de su implementación.

El incidente planteó preguntas no solo sobre el uso por parte del distrito escolar de Los Ángeles de un producto particular de inteligencia artificial, sino también sobre las directrices que los administradores estatales proporcionan a las escuelas en toda California sobre cómo adoptar la tecnología de manera segura. Pocas semanas después del incidente, el Departamento de Educación del estado publicó una nueva edición de las directrices, en las que había estado trabajando durante varios meses con ayuda de un grupo de 50 maestros, administradores y expertos, según LAist.

La revisión llegó en respuesta a instrucciones de la Legislatura, que aprobó dos leyes en 2024 ordenando al departamento, esencialmente, que manejara la rápida propagación de la inteligencia artificial entre estudiantes, maestros y administradores. Los críticos se preguntan si las directrices habrían ayudado a evitar lo que los padres llamaron "Pippigate". La controversia, dicen, proporciona evidencia de que los distritos, las escuelas y los padres, que a menudo carecen del tiempo o los recursos para garantizar que las herramientas de software no produzcan resultados dañinos, necesitan más apoyo del estado.

Las directrices, añaden los críticos, también son demasiado vagas en algunos lugares y no hacen lo suficiente para definir barreras sobre cómo los maestros usan la inteligencia artificial en el aula. Los problemas con las directrices cuestionan si el departamento puede responder efectivamente a las instrucciones de los funcionarios electos sobre cómo salvaguardar una tecnología que, según las propias directrices, puede dejar a los niños aislados y con perspectivas reducidas.

Con la inteligencia artificial volviéndose rápidamente más prevalente en la sociedad, gestionar efectivamente la tecnología se ha convertido en un problema urgente. Aunque ChatGPT de OpenAI popularizó la inteligencia artificial generativa hace solo tres años, las encuestas muestran que la mayoría de los maestros y estudiantes en todo el país ahora usan la tecnología en alguna capacidad, según LAist.

Si bien la inteligencia artificial puede ayudar a ahorrar tiempo a los maestros, personalizar el aprendizaje y apoyar a estudiantes que no hablan inglés o que tienen discapacidades, también puede calificar incorrectamente sus trabajos y generar imágenes que perpetúan o intensifican estereotipos o imágenes sexualizadas de mujeres, particularmente mujeres de color. La mayoría de los estudiantes de educación primaria y secundaria de California son personas de color, según LAist.

"Los educadores tienen una ventana estrecha para establecer normas antes de que se endurezcan", dijo LaShawn Chatmon, director ejecutivo del National Equity Project, un grupo de Oakland que ayuda a los maestros a producir resultados más equitativos. "Las agencias educativas locales que aprovechan esta oportunidad para codiseñar el aprendizaje y las políticas con estudiantes y familias pueden ayudar a cambiar quién decide el papel de la inteligencia artificial en nuestro aprendizaje y vidas".

Como resultado de lo que experimentó su hijo, Hughes cree que no se debe decir a los estudiantes que usen generadores de texto a imagen para tareas. Pero no ve ningún intento de establecer tales límites en el uso de la tecnología en la orientación del Departamento de Educación. "Estas compañías tecnológicas están haciendo cosas comercializadas para niños que no están completamente probadas", dijo. "No sé dónde trazar la línea, pero la escuela primaria es demasiado joven porque puede volverse realmente desagradable muy rápido, como hemos visto con el asunto de Grok", agregó, refiriéndose al abuso reciente del sistema de inteligencia artificial Grok para eliminar la ropa de manera no consensuada en imágenes de mujeres y niños.

Las directrices proporcionan una lista de usos inaceptables de inteligencia artificial por parte de los estudiantes, como el plagio, e instan a los educadores a integrar escenarios del mundo real y estudios de casos en las discusiones para ayudar a los estudiantes a aplicar principios éticos a situaciones prácticas. También dice que se debe enseñar a los estudiantes a "pensar crítica y creativamente" sobre los "beneficios y desafíos" de las herramientas de inteligencia artificial.

Julie Flapan, directora del Computer Science Equity Project en el Centro X de UCLA, dijo que el incidente de Pippi Calzaslargas le recordó un estudio de 2024 que encontró que los jóvenes negros y latinos tienen más probabilidades de usar inteligencia artificial generativa que los jóvenes blancos. Esos datos, junto con la disparidad histórica en el acceso a la educación en ciencias de la computación, significan, dijo, que algunos padres y estudiantes necesitarán ayuda para pensar críticamente sobre la inteligencia artificial.

"A menudo pensamos en los avances tecnológicos como formas de nivelar el campo de juego", dijo. "Pero la realidad es que sabemos que exacerban las desigualdades". Flapan dijo que tiene sentido que las directrices insten al pensamiento crítico y la evaluación de herramientas de inteligencia artificial antes de su uso y alienten a los líderes educativos a involucrar a las comunidades en la toma de decisiones. Pero, agregó, la orientación no detalla cómo hacer eso.

Charles Logan, ex maestro ahora en un laboratorio de tecnología responsable en la Universidad Northwestern, dijo que las directrices no ofrecen a los maestros y padres orientación clara sobre cómo pueden optar por no usar la tecnología. Un estudio de la Brookings Institution publicado en enero, basado en entrevistas con estudiantes, maestros y administradores en 50 países, concluyó que los riesgos de la inteligencia artificial en las aulas actualmente superan los beneficios y pueden "socavar el desarrollo fundamental de los niños".

Mark Johnson, jefe de asuntos gubernamentales en Code.org, elogió las directrices, pero dijo que el estado debería ofrecer más apoyo de educación en inteligencia artificial a los educadores y hacer que la competencia en inteligencia artificial y ciencias de la computación sean requisitos para la graduación. Un informe reciente de Johnson encontró que cuatro estados adoptaron tales requisitos de graduación después de publicar orientación sobre inteligencia artificial.

Katherine Goyette, quien se desempeñó como coordinadora de ciencias de la computación para el Departamento de Educación hasta enero, cuando se le preguntó sobre el incidente de Calzaslargas, señaló partes de la orientación que enfatizan la importancia de involucrar a las familias, comunidades y miembros de la junta escolar al evaluar herramientas de inteligencia artificial. También dijo que el pensamiento crítico es importante para prevenir tales resultados, señalando la orientación que empuja a los administradores a considerar posibles daños antes del uso.

La última versión de las directrices de inteligencia artificial del Departamento de Educación de California llega cuando las agencias educativas locales se alejan de las prohibiciones generales de inteligencia artificial consideradas después del lanzamiento de ChatGPT de OpenAI en 2022. En cambio, los distritos se están moviendo hacia decidir cuándo y cómo los estudiantes y maestros pueden usar la tecnología. Esas decisiones locales serán críticas para cómo se usa realmente la tecnología en las escuelas, ya que el estado no puede exigir que los distritos escolares adopten su orientación.

Incluso los distritos escolares más grandes de California pueden encontrar problemas graves al implementar inteligencia artificial. En junio de 2024, el superintendente del Distrito Escolar Unificado de Los Ángeles prometió el mejor tutor de inteligencia artificial del mundo, pero tuvo que retirarlo del uso semanas después. Una semana después, surgió la noticia de que la mayoría de los miembros de la junta del Distrito Escolar Unificado de San Diego, el segundo distrito más grande del estado, firmaron un contrato para un plan de estudios que no sabían que incluía una herramienta de calificación con inteligencia artificial, según LAist.

En un desarrollo paralelo, nueva investigación del Banco de la Reserva Federal de Nueva York revela que las empresas tienen menos probabilidades de contratar a graduados universitarios recientes en ocupaciones que se pueden realizar de forma remota. Los investigadores especulan que los empleadores son reacios a colocar a graduados universitarios recientes en un entorno donde es más difícil absorber lecciones de compañeros de trabajo. Los investigadores encontraron que la tasa de desempleo entre graduados universitarios más jóvenes, menores de 29 años, aumentó un 20 por ciento después de la pandemia, mientras que el desempleo entre graduados universitarios mayores cayó ligeramente.

El desempleo aumentó a medida que el trabajo remoto creció cuatro veces, escriben los investigadores. "Nuestro análisis sugiere que estas tendencias están relacionadas, con el trabajo remoto haciendo más difícil para los gerentes capacitar y asesorar a nuevos empleados". Para ver cómo el aumento de los chatbots de inteligencia artificial pudo haber contribuido al aumento del desempleo entre los más jóvenes, los investigadores utilizaron otro índice que divide las ocupaciones en aquellas más expuestas a la inteligencia artificial, como ingeniería y contabilidad, y aquellas menos expuestas, como enseñanza y enfermería. Encontraron que la exposición a la inteligencia artificial no explicó la divergencia en las tasas de desempleo en el período 2022-2024. Los flujos de trabajo remotos fueron mucho más una fuerza impulsora, según NPR.

Mientras tanto, en el ámbito de políticas educativas, el Distrito Escolar de la Ciudad de Columbus aprobó por unanimidad una política formal de inteligencia artificial para maestros, personal y estudiantes antes del mandato de Ohio de julio de 2026. La política posiciona la inteligencia artificial como un suplemento de aprendizaje, no un sustituto del esfuerzo del estudiante o el juicio del maestro, y otorga a los maestros plena discreción para decidir si se puede usar inteligencia artificial en cualquier tarea dada. El uso no autorizado de inteligencia artificial se trata como plagio. La política también prohíbe que los datos de estudiantes y personal se utilicen para entrenar modelos de inteligencia artificial, según WOSU Public Media.

En Boston, la alcaldesa Michelle Wu anunció que las Escuelas Públicas de Boston se convertirán en el primer distrito escolar de una ciudad importante del país en hacer de la fluidez en inteligencia artificial un requisito de graduación, lanzando un programa obligatorio de alfabetización en inteligencia artificial en todas las escuelas secundarias de BPS a partir de septiembre de 2026. La iniciativa está respaldada por una subvención inicial de un millón de dólares del empresario tecnológico y cofundador de Kayak, Paul English, graduado de BPS, que financiará la capacitación de un maestro de cada una de las aproximadamente dos docenas de escuelas secundarias del distrito, según GovTech.

A nivel federal, la Casa Blanca publicó su Marco de Política Nacional para Inteligencia Artificial el 20 de marzo, proporcionando al Congreso un amplio conjunto de recomendaciones legislativas construidas alrededor de siete pilares. La educación y el desarrollo de la fuerza laboral es un pilar central: el marco pide incorporar capacitación en inteligencia artificial en programas existentes de educación, desarrollo de la fuerza laboral y aprendizaje en lugar de crear nuevas iniciativas independientes. También pide al Congreso que amplíe la investigación federal sobre los cambios en el mercado laboral impulsados por la inteligencia artificial y fortalezca la capacidad de las universidades de concesión de tierras para ofrecer desarrollo de habilidades en inteligencia artificial y programas juveniles, según EdTech Innovation Hub.

En California, más de 3,000 profesores, estudiantes y exalumnos del sistema de la Universidad Estatal de California han firmado una petición instando al canciller a no renovar su acuerdo de 17 millones de dólares con ChatGPT Edu de OpenAI cuando expire este verano. Los críticos argumentan que la herramienta "no es una tecnología educativa" y que invertir en inteligencia artificial mientras se recorta personal y se fusionan campus es fiscalmente irresponsable, según Pursuit.

La Fundación Nacional de Ciencias otorgó 11 millones de dólares a la Asociación de Maestros de Ciencias de la Computación para lanzar "Semanas de Desarrollo Profesional en IA: Fundamentos de CS para Crear con IA", una iniciativa multiestatal diseñada para preparar a miles de educadores de educación primaria y secundaria para enseñar ciencias de la computación e inteligencia artificial fundamentales. Implementándose primero en Indiana, Carolina del Sur, Minnesota, Nueva Jersey, Iowa e Illinois, más al menos tres estados adicionales, el programa servirá directamente a un estimado de 2,500 a 3,000 maestros a través de sesiones intensivas de capacitación de verano seguidas de apoyo continuo de redes estatales y locales, según GovTech.