Fundador de Signal lanza Confer, un chatbot con encriptación de extremo a extremo

El nuevo proyecto de Marlinspike representa un cambio de paradigma en la forma en que los usuarios interactúan con los asistentes de IA. A diferencia de los chatbots convencionales, donde la información del usuario queda expuesta a las empresas, Confer utiliza matemáticas avanzadas para garantizar que, aunque el procesamiento intensivo ocurra en servidores en la nube, solo el usuario pueda acceder a los detalles desencriptados de esa computación.

Según Marlinspike, la interacción actual con chatbots, aunque parezca una conversación privada, en realidad equivale a un chat grupal con "ejecutivos y empleados, sus socios comerciales/proveedores de servicios, los hackers que comprometerán esos datos en texto plano, los futuros anunciantes que casi con certeza surgirán, y los abogados y gobiernos que solicitarán acceso mediante citaciones".

El fundador de Signal advierte que los registros de chat con IA revelan patrones de pensamiento del usuario, lo que podría convertirse en una mina de oro para las empresas de IA que buscan rentabilizar sus inversiones. Marlinspike argumenta que esto podría conducir a una forma de publicidad mucho más poderosa y manipuladora: "Será como si un tercero le pagara a tu terapeuta para convencerte de algo", señala.

Confer ofrece una solución intermedia entre los modelos de código abierto que pueden ejecutarse localmente (pero cuyos mecanismos de seguridad pueden ser eliminados) y los modelos cerrados que vigilan a los usuarios. La aplicación combina las protecciones de privacidad de los modelos de código abierto con la capacidad de salvaguardar los pesos del modelo, algo que hasta ahora solo era posible con IA de código cerrado propensa a la vigilancia.

El impacto potencial de Confer en la industria de la IA podría ser significativo. Así como el protocolo Signal fue adoptado posteriormente por WhatsApp para encriptar las conversaciones de miles de millones de usuarios, Confer podría presionar a las grandes empresas tecnológicas hacia prácticas más respetuosas con la privacidad, aunque Time señala que es poco probable que Google, OpenAI o Anthropic encripten las conversaciones de sus usuarios próximamente, ya que iría en contra de sus intereses comerciales.

En cuanto a su funcionamiento, Time indica que la versión gratuita de Confer utiliza un modelo base que carece del "chispazo" de otros modelos favoritos. Marlinspike no especifica qué modelo de IA impulsa la aplicación, pero en un mensaje a Time, explicó que Confer utiliza diferentes modelos de código abierto para diferentes tareas. "Mi esperanza es que no tengamos que cargar a las personas con la selección o el pensamiento sobre un modelo, de la misma manera que Signal no carga a las personas con la selección de un cifrado", afirmó.

La versión de pago de Confer, con un costo de 34,99 dólares mensuales, es más cara que su competencia, pero ofrece la posibilidad de utilizar "modelos de IA avanzados" y personalizar sus respuestas, según indica el sitio web de la aplicación.

A pesar de que hay margen de mejora, Time considera que para ser un producto en su primera versión, Confer presenta un conjunto de características impresionante que podría reequilibrar la balanza de poder entre usuarios y corporaciones en la era de la IA avanzada.