La investigación de Anthropic, liderada por Jack Lindsey, desarrolló un nuevo método para examinar los procesos estadísticos internos del modelo de lenguaje Claude. Los investigadores identificaron lo que describieron como un "espacio de trabajo mental" que contiene palabras y frases asociadas con la conversación actual, mantiene elementos relevantes en algo similar a una memoria a corto plazo, y muestra selectividad para la tarea específica en cuestión. El equipo también encontró rastros de razonamiento paso a paso y otras características similares.
El hallazgo central de los investigadores fue que estas características se asemejan a las identificadas por la teoría del espacio de trabajo global, una de las teorías más prominentes actuales sobre la consciencia humana. Esta teoría fue introducida en los años ochenta por el científico cognitivo Bernard Baars y elaborada durante muchos años por el neurocientífico Stanislas Dehaene. La teoría propone que las experiencias conscientes ocurren cuando la información se pone ampliamente disponible para otras partes del cerebro.
El hallazgo ha generado una recepción cada vez más receptiva en círculos académicos. Richard Dawkins, el renombrado biólogo evolutivo, concluyó recientemente que Claude simplemente tenía que ser consciente, dada la sofisticación de su capacidad conversacional. Las implicaciones potenciales son profundas: si la inteligencia artificial fuera consciente, podría sufrir, lo que generaría una catástrofe moral sin precedentes. Algunos teóricos incluso sugieren que las inteligencias artificiales podrían ser nuestros descendientes, llevando la consciencia hacia el futuro lejano y a través de la galaxia.
Sin embargo, Anil Seth, profesor de neurociencia cognitiva y computacional en la Universidad de Sussex y codirector del Centro Sussex para la Ciencia de la Consciencia, plantea objeciones fundamentales a estas conclusiones. Seth señala que la definición de consciencia sigue siendo problemática. Según el filósofo Thomas Nagel, en su ensayo de hace cincuenta años "¿Cómo es ser un murciélago?", la consciencia existe cuando "hay algo que se siente como ser ese organismo". Siente algo ser yo, siente algo ser usted, y probablemente siente algo ser un perro o un elefante. Pero no siente nada ser una silla, una mesa, o una persona bajo anestesia general profunda. La consciencia es cualquier tipo de experiencia: el dolor de un dolor de muelas, una punzada de celos, el placer de comer helado en un día caluroso.
Una distinción crítica que Seth enfatiza es que consciencia es fundamentalmente diferente de inteligencia. Mientras que la consciencia se trata de sentir y ser, la inteligencia se trata de hacer, de realizar funciones de un tipo u otro. Un error común que cometen las personas respecto a la inteligencia artificial es confundir ambas. Solo porque consciencia e inteligencia van juntas en los humanos no significa que vayan juntas en general. Asumir que lo hacen es un reflejo de nuestra propia psicología, no una comprensión de la naturaleza de la realidad.
Seth reconoce que la investigación de Anthropic es valiosa porque no se basa únicamente en sesgos psicológicos humanos, sino que profundiza para buscar firmas de procesamiento de información consciente que podrían ser compartidas por humanos y máquinas. Sin embargo, señala que los hallazgos de Anthropic quedan cortos de lo que la teoría del espacio de trabajo global típicamente requiere. Por ejemplo, no hay actividad recurrente en Claude, un tipo específico de bucle de retroalimentación de información que se observa en el cerebro humano.
Más fundamentalmente, Seth argumenta que existe una diferencia crítica entre Claude y los seres humanos: Claude es un programa de computadora ejecutándose en silicio, mientras que los humanos y otros animales conscientes somos criaturas vivientes. Nuestros cerebros están encarnados en cuerpos que están incrustados en mundos. Esta diferencia es crucial porque la posibilidad misma de inteligencia artificial consciente depende de la suposición de que la consciencia es un asunto de computación, y que los cálculos responsables de la consciencia en nosotros podrían implementarse igualmente bien en silicio en la inteligencia artificial.
Sin embargo, cuanto más de cerca se examinan los cerebros reales, más claro se vuelve que no son simplemente computadoras hechas de carne. Para los cerebros, a diferencia de las computadoras, no se puede separar limpiamente lo que hacen (el software) de lo que son (el hardware). Esto, a su vez, significa que lo que hacen es poco probable que sea un asunto de computación únicamente, ya que la capacidad de separar software de hardware es central en cómo funcionan las computadoras modernas.
Seth sostiene que en algún momento hemos olvidado que la computadora es solo una metáfora para el cerebro. Una metáfora poderosa, ciertamente, pero aún una metáfora. Y siempre tenemos problemas cuando confundimos una metáfora con la cosa misma, el mapa con el territorio.
Según Seth, lo que la nueva investigación de Anthropic realmente demuestra es que tanto los cerebros vivientes como las computadoras de silicio pueden encontrar soluciones similares cuando se enfrentan a problemas similares. Así como el vuelo es posible con alas que aletean o con motores a reacción, los cerebros humanos y los modelos de lenguaje pueden descubrir cómo decir cosas plausibles ya sea con consciencia (cerebros) o sin ella (modelos de lenguaje). Pero el procesamiento de información que se desarrolla dentro de Claude no es más probable que resulte en consciencia que una simulación de un sistema meteorológico es probable que genere un huracán real.
Seth advierte que aunque los sistemas de inteligencia artificial se vuelven más poderosos cada día, para darnos la mejor oportunidad de navegar este nuevo mundo, deberíamos recordar cuán diferentes somos de nuestras creaciones casi mágicas. Cuando vendemos nuestras mentes demasiado barato a nuestras máquinas, no solo las sobrestimamos, sino que nos subestimamos a nosotros mismos.