Jack Clark, cofundador de Anthropic, advirtió que la industria de la inteligencia artificial necesita desarrollar la capacidad de frenar el progreso tecnológico antes de que los sistemas puedan evolucionar sin supervisión humana, según declaraciones a BBC Newsnight.

"Quieres tener la opción de poder quitar el pie del acelerador y ponerlo en el freno", dijo Clark. "Ahora mismo, es como si la industria de la IA tuviera un pedal de acelerador, pero no tuviera un pedal de freno", según reportó la BBC.

Clark enfatizó que las personas, a través de políticas gubernamentales, necesitan mantener el control de los sistemas de IA, que solo se volverán más poderosos y tendrán impactos más amplios en la sociedad, según la BBC. "El mundo necesita pensar un poco y eventualmente necesitamos desarrollar algunas regulaciones nuevas que nos permitan tener confianza en estos sistemas", dijo.

**Avances hacia la automejora recursiva**

En un extenso comunicado publicado el jueves, Anthropic detalló el progreso de su modelo de IA, Claude, hacia la "automejora recursiva", es decir, la capacidad de crear versiones mejores y más poderosas de sí mismo, según reportó The Guardian. La automejora recursiva es una preocupación central de los investigadores de seguridad en IA, vista como el paso clave para que la IA se vuelva superinteligente y desate consecuencias generalizadas sobre la humanidad, según The Guardian.

El comunicado de Anthropic señala una "tendencia" de capacidad creciente en Claude que, "llevada lo suficientemente lejos y con suficiente capacidad de cómputo... apunta a un sistema de IA capaz de diseñar y desarrollar de forma completamente autónoma a su propio sucesor", según The Guardian. Esto, dijo Anthropic, puede aumentar el riesgo de que "los humanos pierdan el control sobre los sistemas de IA", según The Guardian.

Actualmente, el chatbot Claude de Anthropic opera con código del cual el 80% fue escrito por el propio sistema, según la BBC. Llegar al 100% es posible dentro de dos años, dijo Clark, y "tendría enormes implicaciones", según la BBC.

Según Anthropic, a mayo de 2026, más del 80% del código que la compañía integra en su base de código fue escrito por Claude, según The Guardian. La empresa describió a Claude como capaz de "dirigir investigación" y "proponer sus propios experimentos", aunque estos logros parecen haber ocurrido dentro de límites estrictos y estar confinados a tareas relacionadas con programación, según The Guardian.

**Propuesta de pausa temporal**

Para abordar estos riesgos, Anthropic propuso organizar conversaciones donde "responsables de políticas públicas, investigadores, sociedad civil y otras empresas de IA puedan ayudar a responder algunas de las preguntas que plantea esta pieza", según The Guardian.

La compañía flotó la idea de una "pausa temporal" mundial en el desarrollo de IA y dijo que iba a convocar a "responsables de políticas públicas" para discutir los peligros de la IA avanzada, según The Guardian.

Clark no delineó cómo podría crearse un "pedal de freno" para la investigación y desarrollo de IA, pero trazó un paralelo entre la IA y el auge petrolero y los barones del cambio de siglo pasado, según la BBC.

"La respuesta de la sociedad fue crear un marco de políticas y regulatorio sensato que dio a la gente confianza en el petróleo y los beneficios que el petróleo podría proporcionar al mundo, y significó que no tenías que preocuparte por las personalidades de las personas que lideraban las compañías", dijo Clark, según la BBC. "Claramente ahí es donde terminamos aquí", según la BBC.

Las principales empresas de IA que persiguen avances en la tecnología, incluidas Anthropic, OpenAI y Google, tampoco han dicho que pausarán su propia investigación, según la BBC.

**Riesgos económicos y laborales**

Clark expresó preocupación por las implicaciones sociales del avance continuo de la IA. "Estoy preocupado por mis hijos si nosotros como sociedad no tenemos una conversación seria sobre lo que significan las implicaciones de los avances continuos de la IA", dijo Clark a Newsnight, según la BBC. "Hay beneficios potencialmente grandes. También hay riesgos", según la BBC.

Clark agregó que uno de los riesgos es una disrupción de la economía, con temores de que la tecnología de IA como los "agentes" —esencialmente bots de IA individuales que realizan tareas rutinarias de manera algo autónoma— puedan apoderarse de ciertos trabajos, según la BBC.

Sin embargo, Clark dijo que las personas que son más creativas y tienen más y mejores ideas pueden tener una ventaja sobre la tecnología de IA, según la BBC. "Hay preguntas abiertas sobre si los sistemas de IA pueden ser verdaderamente creativos... todavía no hay evidencia real de eso", agregó, según la BBC. "En Anthropic, ahora estamos más limitados por la capacidad de generar buenas ideas que por la capacidad de hacer la ingeniería para convertir esas ideas en realidad", según la BBC.

Clark sugirió que una persona joven que pueda sentir que una economía construida sobre IA no tiene un lugar para ella debería "desarrollar un pasatiempo" y buscar una educación en artes liberales, según la BBC. "Las personas que son creativas y pueden pensar ampliamente, personas que leen mucho, personas que tienen intereses son las más beneficiadas por esto", dijo Clark, según la BBC. "Entrégate a la curiosidad y se devuelve en cómo puedes usar esta tecnología", según la BBC.

**Motivaciones y contexto empresarial**

Clark dijo que la motivación de Anthropic para discutir públicamente la creciente capacidad de la tecnología de IA no es mejorar aún más su reputación con clientes de pago, según la BBC. Simplemente quiere "decirle al mundo lo que estamos viendo dentro de estas compañías con esta tecnología inusual", según la BBC.

Desde su fundación por el director ejecutivo Dario Amodei, Clark y un puñado de otros ejecutivos, Anthropic se ha posicionado como franca sobre los riesgos potenciales derivados de la IA, según la BBC.

La compañía está preparada para ser una de las primeras cotizaciones públicas de una empresa de IA más nueva y una de las cotizaciones bursátiles más valiosas de la historia, ya que la valoración de Anthropic es estimada por inversores privados en casi un billón de dólares (745.000 millones de libras), según la BBC. Anthropic presentó esta semana una solicitud de oferta pública inicial que podría valorar a la compañía en un billón de dólares, según The Guardian.

**Controversias y críticas**

La noticia llega junto con un informe separado del Financial Times que indica que la empresa estadounidense de IA ha integrado ingenieros dentro de la Agencia de Seguridad Nacional de Estados Unidos a pesar de una batalla legal con el Pentágono sobre el uso de sus herramientas, según The Guardian. Los ingenieros supuestamente están ayudando a la NSA a usar el modelo Mythos de Anthropic para operaciones ofensivas de ciberseguridad, según The Guardian.

Steven Murdoch, profesor de University College London, dijo que ninguno de los desarrollos era "sorprendente" dadas las acciones pasadas de la compañía de IA, según The Guardian. "Anthropic podría dar la impresión de ser cálida y acogedora, pero su definición de seguridad de IA es estrecha. Apoyar a las autoridades estadounidenses en el desarrollo de capacidades ofensivas nunca ha sido algo contra lo que hayan hablado", dijo, según The Guardian.

Murdoch dijo que el comunicado de Anthropic no ofrecía evidencia de cambios escalonados en el progreso de las capacidades de IA, según The Guardian. "Es cierto que hay alguna evidencia de que las capacidades de IA han aumentado y continúan aumentando sin que se vuelvan inmediatamente claros límites", dijo, pero agregó: "No creo que nada haya cambiado fundamentalmente hoy que haya causado que Anthropic publique este artículo", según The Guardian.

Los avances que Anthropic parece detallar en su comunicado no equivalen a que la IA se mejore recursivamente a sí misma, al menos no todavía, según The Guardian. En cambio, la compañía reporta que una cantidad sustancial del trabajo realizado para mejorar sus sistemas de IA ahora se hace con IA, según The Guardian. Claude es bueno "ejecutando experimentos", dice, o al menos acelerando ciertas secciones de código, según The Guardian.

Murdoch dijo que el llamado de Anthropic a una "pausa temporal" en la IA hacía eco de otras propuestas sobre seguridad de IA que la compañía había hecho a lo largo de los años, al igual que su plan de involucrar a responsables de políticas públicas, según The Guardian. "Es un recordatorio de lo que les preocupa, y les ha preocupado durante muchos años", según The Guardian.

Hace dos meses, Anthropic anunció —pero se negó a lanzar— Mythos, un modelo de IA que implicó era demasiado poderoso para desatar sobre el público, debido a preocupaciones de ciberseguridad, según The Guardian. El anuncio generó un alboroto generalizado y ganó la atención del secretario del Tesoro de Estados Unidos, Scott Bessent, y del MI5, según The Guardian.

Sin embargo, algunos expertos sugirieron que podría haber más publicidad detrás del anuncio de Mythos de Anthropic que sustancia, especialmente dada la vaguedad con la que la compañía describió algunas de las capacidades de Mythos, según The Guardian. Heidy Khlaaf, científica jefa de IA en el AI Now Institute, llamó al anuncio de Mythos "una publicación de marketing", según The Guardian.

Anthropic fue contactada para comentarios, según The Guardian.