Google, Microsoft y xAI someterán sus modelos de inteligencia artificial a pruebas de seguridad del gobierno de EE.UU.

El Departamento de Comercio de Estados Unidos evaluará los modelos de inteligencia artificial de Google, Microsoft y xAI antes de su lanzamiento al público, según anunció el martes el Centro para Estándares e Innovación en IA (CAISI). Las tres compañías tecnológicas acordaron voluntariamente someter sus herramientas para pruebas de capacidades y seguridad.

Los nuevos pactos representan una expansión de acuerdos alcanzados durante la administración Biden con empresas como OpenAI y Anthropic, según informó la BBC. "La ciencia de medición independiente y rigurosa es esencial para comprender la IA de frontera y sus implicaciones para la seguridad nacional", dijo Chris Fall, director de CAISI, según SiliconANGLE.

Las evaluaciones cubrirán "pruebas, investigación colaborativa y desarrollo de mejores prácticas relacionadas con sistemas comerciales de IA", según CAISI. El enfoque estará en seguridad nacional, con énfasis en ciberseguridad, bioseguridad y armas químicas, según SiliconANGLE.

Google participa a través de su subsidiaria DeepMind, cuya herramienta de IA más conocida es Gemini, un chatbot ampliamente disponible en productos Google que ahora también se utiliza en agencias de defensa y militares de Estados Unidos, según la BBC. Microsoft someterá a evaluación CoPilot, su herramienta de IA más conocida. xAI, la empresa de Elon Musk, evaluará Grok, su único producto de IA, un chatbot que ha enfrentado escrutinio público por problemas relacionados con la manipulación de imágenes, según la BBC.

CAISI informó el martes que ha realizado 40 evaluaciones previas de herramientas de IA, incluyendo evaluación y pruebas de ciertos "modelos de última generación que permanecen sin lanzar", según la BBC. El centro no especificó qué modelos han sido detenidos de su lanzamiento al público.

En una publicación corporativa publicada tras el anuncio de CAISI, Microsoft declaró que ya prueba sus modelos de IA, pero que "las pruebas para riesgos de seguridad nacional y seguridad pública a gran escala necesariamente deben ser un esfuerzo colaborativo con los gobiernos", según la BBC. Una portavoz de DeepMind de Google declinó hacer comentarios. Un representante de SpaceX, la compañía de Elon Musk que ahora controla xAI, no respondió a una solicitud de comentarios, según la BBC.

La incorporación de más compañías para investigación y pruebas de seguridad de herramientas comerciales de IA marca un cambio para la Casa Blanca de Trump, que ha adoptado un enfoque mayormente no intervencionista hacia la supervisión o regulación de empresas de IA y tecnología, según la BBC.

El año pasado, el presidente Donald Trump firmó una serie de órdenes ejecutivas que formaron la base del "Plan de Acción de IA" de su administración, que según dijo "eliminaría la burocracia y la regulación onerosa" en torno al desarrollo de IA y aseguraría que Estados Unidos "ganará" a través de avances y control de la tecnología, según la BBC. "No podemos detenerlo con política", dijo Trump el año pasado en un evento de IA, según SiliconANGLE. "No podemos detenerlo con reglas tontas e incluso reglas estúpidas".

Sin embargo, con el ejército estadounidense expandiendo su uso de IA y recientes afirmaciones de Anthropic de que desarrolló un modelo llamado Mythos que es demasiado poderoso para su lanzamiento al público, la Casa Blanca parece estar cambiando su perspectiva, según la BBC. Las preocupaciones públicas sobre IA relacionadas con pérdida de empleos, salud mental y ciberseguridad han aumentado, según SiliconANGLE.

The New York Times reportó esta semana que la administración Trump está discutiendo una orden ejecutiva que reunirá a ejecutivos tecnológicos y funcionarios gubernamentales en un grupo de trabajo donde crearán un proceso de revisión formal de todos los nuevos modelos de IA, según SiliconANGLE. Esto representaría un giro completo para la Casa Blanca, que ha adoptado un enfoque no intervencionista hacia el desarrollo de IA mientras Estados Unidos intenta mantenerse por delante de China.

OpenAI y Anthropic fueron las primeras compañías de IA en permitir que CAISI examinara sus modelos después de llegar a un acuerdo con la administración Biden hace aproximadamente dos años, según SiliconANGLE. CAISI ya ha completado docenas de evaluaciones de modelos de IA, incluyendo modelos de última generación no lanzados, según el reporte.

"Estas colaboraciones industriales ampliadas nos ayudan a escalar nuestro trabajo en el interés público en un momento crítico", dijo Fall, según la BBC. El cambio sugiere que el gobierno podría estar moviéndose hacia un enfoque más cuidadoso mientras permanece cauteloso sobre la sobrerregulación, según SiliconANGLE.