Google y Apple poseen una ventaja decisiva en la carrera de la inteligencia artificial: el control de aproximadamente 5.000 millones de smartphones activos en todo el mundo, según la firma de investigación de mercado Omdia. Alrededor de 427 millones de iPhones y teléfonos Android caen bajo la regulación de la Unión Europea, lo que convierte a esta región en un campo de batalla crítico para el futuro de los asistentes de IA.
La Comisión Europea, a través de la Ley de Mercados Digitales que entró en vigor en 2023, ha decidido intervenir directamente en esta dinámica. La regulación exige que Google proporcione a otros agentes de IA un acceso más amplio a Android, permitiendo que asistentes rivales como ChatGPT tengan la misma prominencia que Gemini de Google y Siri de Apple en los dispositivos de los usuarios europeos.
Según la Comisión Europea, el mandato busca crear un campo de juego más equitativo en la carrera de la IA. Los usuarios de Android en la Unión Europea deberían poder acceder a otros asistentes de IA con comandos de voz y utilizar agentes de terceros para operar aplicaciones en su nombre, tal como lo hacen actualmente con Gemini. Además, Google debe compartir datos de búsqueda con otros motores de búsqueda y chatbots de IA a partir de enero, permitiendo que otras empresas ofrezcan una experiencia similar a Google Search.
Apple ha tomado una posición más radical. En junio, la compañía anunció que no lanzaría su nuevo asistente Siri mejorado en iPhones e iPads en la Unión Europea debido a los requisitos de la Ley de Mercados Digitales. La empresa argumenta que las exigencias regulatorias la obligarían a "dar a cualquier asistente virtual acceso directo a los datos privados de los usuarios", lo que representa un riesgo inaceptable para la privacidad.
Google ha presentado argumentos similares. Kent Walker, presidente de asuntos globales de Google y Alphabet, declaró que los cambios en Android "plantearían un riesgo de seguridad importante" al otorgar a aplicaciones externas "permisos de dispositivo sensibles y poderosos". Walker también advirtió que compartir datos de búsqueda "debilitaría la privacidad de los ciudadanos, arriesgaría secretos comerciales empresariales y pondría en peligro la seguridad nacional".
Sameer Samat, presidente de Android de Google, argumentó en una publicación en X que la Comisión Europea "está en el camino equivocado" con sus reglas, señalando que los usuarios ya pueden cambiar su asistente de IA predeterminado en el menú de configuración de los teléfonos Android.
Sin embargo, expertos cuestionan si la privacidad es realmente la motivación principal de estas empresas. Calli Schroeder, abogada senior y directora del programa de IA y Derechos Humanos del Centro de Información sobre Privacidad Electrónica, advirtió: "Diría que tenemos que tomar los argumentos de estas empresas tecnológicas con cierta reserva y examinar si les ha importado la privacidad hasta el punto en que de repente una decisión los afectaba de formas que no les gustan".
Los riesgos de privacidad y seguridad son reales y complejos. Sin protecciones adecuadas integradas en el software, otorgar a aplicaciones un acceso más profundo a Android o iOS podría permitirles extraer información de los teléfonos de los usuarios de manera encubierta. Si un asistente de IA malfunciona después de recibir permisos amplios para acceder a mensajes, ubicación, pantalla y micrófono del dispositivo, las consecuencias podrían ser críticas.
Michael Stokes, vicepresidente senior de tecnologías emergentes en Veilant, una empresa que vende productos de infraestructura segura y comunicaciones, explicó: "Podría ejercer la autoridad delegada del usuario para hacer otras cosas que quizás el usuario no hubiera querido que sucedieran".
Google sostiene que si los agentes de IA reciben estos tipos de permisos, serían los fabricantes de teléfonos como Samsung quienes tomarían esas decisiones y los evaluarían. La Comisión Europea ha respondido que las grandes empresas tecnológicas que caen bajo la Ley de Mercados Digitales, conocidas como guardianes, "pueden implementar salvaguardas apropiadas de privacidad, seguridad e integridad".
El impacto potencial en el mercado es significativo. ChatGPT ya está instalado en aproximadamente el 30% de los smartphones en la Unión Europea, y las reglas de la UE podrían dar a OpenAI una ventaja adicional. Runar Bjorhovde, analista de Omdia, planteó una pregunta crucial: "La cuestión es cuáles serían las implicaciones para Google o el consumidor si el usuario pudiera utilizar ChatGPT para reservar un Uber, evitando completamente la necesidad de interactuar con Android".
El mandato de la Comisión Europea también destaca preguntas críticas sobre la privacidad en la era de la IA y los desafíos que enfrentan tanto las empresas tecnológicas como los reguladores para resolverlos. Los avances tecnológicos históricamente han requerido algún tipo de compensación de privacidad, como dar a las aplicaciones acceso a la ubicación para recomendaciones más precisas. Sin embargo, los sistemas de IA a menudo se entrenan raspando grandes cantidades de datos de internet, lo que podría incluir información personal de los usuarios sin su conocimiento.
Schroeder enfatizó la necesidad de mayor conciencia: "También queremos asegurarnos de que los usuarios sean conscientes de los riesgos que corren cuando interactúan con sistemas de IA. Y creo que la conciencia es donde realmente necesitamos ponernos al día un poco más".
Apple ha indicado que propuso soluciones que fueron rechazadas por la Unión Europea, pero continuará trabajando con los reguladores. Un portavoz de la Comisión Europea dijo que ha estado en contacto regular con Apple sobre el asunto.
Este enfrentamiento refleja una tensión fundamental en la regulación tecnológica moderna: cómo fomentar la competencia y la innovación sin comprometer la seguridad y la privacidad de los usuarios. La decisión de la Unión Europea podría establecer un precedente global para cómo se regulan los asistentes de IA en el futuro, especialmente en mercados donde el control de plataformas por parte de dos empresas es prácticamente total.