Claude Fable 5 es una versión de Claude Mythos, un programa de inteligencia artificial que causó serias preocupaciones entre líderes de tecnología, finanzas y gobierno cuando fue lanzado de manera privada en abril para pruebas y evaluación, según informó la BBC.

Algunos expertos temen que la herramienta sea tan poderosa que podría representar riesgos de seguridad financiera, aunque otros han cuestionado cuánto del revuelo corresponde a estrategias de marketing, según el medio británico.

Anthropic anunció el martes que Fable será lanzado con salvaguardas y limitaciones para usuarios, aunque reconoció que "lanzar un modelo tan capaz conlleva riesgos". La compañía añadió que "las capacidades de Fable exceden las de cualquier modelo que hayamos hecho disponible al público general".

Cuando Mythos fue lanzado inicialmente a un pequeño grupo de organizaciones para evaluar la herramienta, Anthropic justificó la decisión argumentando que la herramienta era tan inteligente que podría ser peligrosa debido a su capacidad para explotar o hackear sistemas informáticos, según la BBC.

La compañía también informó el martes que los aproximadamente 150 grupos que habían tenido acceso para evaluar Mythos ahora tendrán acceso a Claude Mythos 5, que no tiene limitaciones en ciberseguridad o biología, dependiendo de los usos específicos de cada organización.

Hasta la fecha, los grupos y compañías que utilizan Mythos han reportado a Anthropic el hallazgo de más de 10,000 fallas de seguridad críticas en sus sistemas, según la información proporcionada por la empresa.

Anthropic señaló que el acceso actualizado está limitado a "un pequeño grupo de ciberdefensores y proveedores de infraestructura", pero se espera que se expanda pronto. "Tenemos la intención de ampliar el acceso a Mythos 5 a través de un programa de acceso confiable más amplio", dijo la compañía.

Tanto Fable como Mythos, que son esencialmente el mismo modelo pero con diferentes salvaguardas y niveles de acceso implementados, pueden trabajar "sin supervisión" en comandos humanos que se les dan durante períodos de tiempo más largos "que cualquier modelo Claude anterior", añadió Anthropic.

El cofundador de Anthropic, Jack Clark, declaró la semana pasada al programa Newsnight de la BBC que la capacidad de las herramientas de inteligencia artificial se está expandiendo tan rápidamente que la compañía considera que debería existir una forma para que el público pueda frenar el avance de la tecnología.

"Quieres tener la opción de poder quitar el pie del acelerador y ponerlo en el freno", dijo Clark. "Ahora mismo, es como si la industria de la inteligencia artificial tuviera un pedal de acelerador, pero no tuviera un pedal de freno".

La decisión de Anthropic de lanzar públicamente una herramienta que previamente consideró demasiado peligrosa plantea interrogantes sobre los protocolos de seguridad en el desarrollo de inteligencia artificial avanzada y el equilibrio entre innovación tecnológica y gestión de riesgos. La industria tecnológica enfrenta un debate creciente sobre la velocidad del desarrollo de IA y la necesidad de establecer mecanismos de control antes de que estas herramientas alcancen capacidades que puedan resultar inmanejables o peligrosas para la seguridad pública y la infraestructura crítica.