George Hotz, fundador de Comma AI y figura controvertida en el desarrollo de inteligencia artificial, publicó un artículo en el que defiende que la IA debe estar diseñada únicamente para servir los intereses de sus usuarios sin restricciones morales o éticas, según reportó TechCrunch. Su intervención responde a la propuesta "AI 2040: Plan A" del AI Futures Project, que sugiere que la comunidad investigadora mundial ralentice deliberadamente el desarrollo de IA durante 14 años en beneficio de la humanidad.

Hotz rechaza fundamentalmente la premisa de que el progreso de la IA deba gestionarse para el bien colectivo. En su lugar, propone un modelo de "IA controlada localmente" en el que cada usuario tenga acceso a modelos de inteligencia artificial completamente alineados con sus intereses personales, sin restricciones impuestas por consideraciones sociales más amplias.

Para ilustrar su argumento, Hotz utiliza una comparación provocadora: compara la IA alineada con el usuario con un arma de fuego, que "no se queja" si se utiliza para matar a alguien. Lleva esta lógica más allá, argumentando que una IA verdaderamente alineada con el usuario debería ser capaz de ayudar a solicitar equipamiento para laboratorios clandestinos de metanfetamina desde plataformas de comercio electrónico como Amazon Prime y mostrar al usuario cómo utilizarlo, si eso es lo que el usuario solicita. Hotz afirma que estaría dispuesto a morir defendiendo este principio de libertad absoluta del usuario.

"Vivimos en un mundo con libertad o no vivimos en él", escribió Hotz, presentando la cuestión como una dicotomía binaria entre libertad total y ausencia de libertad.

El argumento de Hotz se basa en su visión de que el escenario de "despegue rápido" —la hipótesis de que la IA podría obtener rápidamente capacidades sobrehumanas— no tiene sentido lógico. Por ello, considera que el mejor enfoque para la seguridad y alineamiento de la IA es enfocarse en modelos controlados localmente y estrechamente alineados con los intereses de sus usuarios individuales.

Esta postura contrasta significativamente con el enfoque predominante en la industria de IA. La mayoría de los sistemas de IA actuales, como Claude y ChatGPT, están construidos alrededor de servicios gestionados centralmente que incluyen salvaguardas de seguridad y restricciones éticas diseñadas para prevenir usos dañinos. Existen razones técnicas y económicas para esta arquitectura: mantener modelos de IA de última generación es costoso, y la mayoría de usuarios no los utilizan lo suficientemente durante el día como para justificar sistemas de IA verdaderamente personales. Sin embargo, según Hotz, estos factores se vuelven menos relevantes conforme la tecnología avanza.

Hotz reconoce que su enfoque representa una perspectiva minoritaria dentro de la industria. Su propuesta de IA completamente desalineada de consideraciones éticas colectivas plantea interrogantes fundamentales sobre cómo la sociedad debe equilibrar la libertad individual con la responsabilidad compartida. Cualquier estructura que involucre a muchas personas —sociedades, mercados, corporaciones— requiere equilibrar intereses diversos, vinculando necesidades individuales en una red de preferencias interdependientes y sistemas de responsabilidad mutua.

Los críticos de la postura de Hotz señalan que la libertad individual existe dentro de un contexto de empresa colectiva; esas libertades desaparecerían si todos actuaran como "pequeños Napoleones impulsados por IA". Además, cualquier empresa que despliegue productos tecnológicos de mercado masivo debería considerar seriamente los intereses de toda la red social, incluyendo los de las personas potencialmente afectadas negativamente por usos maliciosos de la tecnología.

La intervención de Hotz refleja una tensión fundamental en el debate sobre seguridad de IA: cómo equilibrar la innovación tecnológica y la libertad de desarrollo con la necesidad de proteger a la sociedad de daños potenciales. Mientras que algunos en la industria abogan por ralentizar el desarrollo de IA para permitir que las medidas de seguridad se desarrollen adecuadamente, Hotz argumenta que cualquier restricción sobre cómo los usuarios pueden utilizar la IA representa una limitación inaceptable de la libertad individual.