Moxie Marlinspike, fundador de la aplicación de mensajería segura Signal, está colaborando con Meta para integrar el cifrado centrado en la privacidad en sus sistemas de inteligencia artificial. Esta medida tiene como objetivo abordar una brecha cada vez mayor en la seguridad de los datos: si bien miles de millones de mensajes intercambiados en plataformas como Signal, WhatsApp e iMessage están protegidos por cifrado de extremo a extremo, las conversaciones con chatbots de IA actualmente carecen de las mismas salvaguardas.
El problema: interacciones de IA sin protección
Las empresas de inteligencia artificial recopilan habitualmente datos de los usuarios a partir de las interacciones de los chatbots para entrenar sus modelos. Optar por no participar en la recopilación de datos suele ser difícil o imposible, lo que deja los intercambios confidenciales expuestos a empresas, empleados, piratas informáticos e incluso solicitudes gubernamentales. La iniciativa de Marlinspike busca cambiar eso. Sostiene que a medida que la IA se vuelva más poderosa, fluirán aún más datos privados hacia estos sistemas, lo que hace que el cifrado sea esencial.
Confer: La tecnología central
La solución proviene de la nueva plataforma de inteligencia artificial de Marlinspike, Confer, que respaldará a Meta AI con su tecnología de privacidad. Si bien los detalles de la integración siguen sin revelarse, el objetivo del proyecto es combinar el poder de la IA avanzada con la privacidad de la comunicación cifrada. En particular, Confer seguirá operando de forma independiente, asegurando cierto grado de separación de las prácticas de datos más amplias de Meta.
Compromiso de Meta con la privacidad
El director de WhatsApp, Will Cathcart, enfatizó la importancia de las interacciones seguras con IA, particularmente para datos personales confidenciales. La colaboración se basa en el trabajo anterior de Marlinspike con WhatsApp en 2016, cuando ayudó a implementar el cifrado de extremo a extremo para más de mil millones de usuarios. Sin embargo, integrar el cifrado en la IA es más complejo que la mensajería tradicional, ya que los esquemas criptográficos diseñados para la comunicación basada en texto no se traducen directamente en IA generativa.
Perspectivas de expertos
Los investigadores de criptografía reconocen que Confer es un paso adelante prometedor, aunque no sin limitaciones. Mallory Knodel, de la Universidad de Nueva York, señala que la IA cifrada impediría que Meta acceda a los datos del chat con fines de capacitación, lo cual es fundamental para mantener la privacidad del usuario. JP Aumasson, director de seguridad de Taurus, está de acuerdo y califica a Confer como “la mejor solución privada de IA” a pesar de la falta de total transparencia con respecto a su arquitectura y cadena de suministro.
Desafíos y Oportunidades
El desarrollo del cifrado para la IA presenta obstáculos importantes. Gran parte del trabajo sobre privacidad existente se ha centrado en modelos o capas de código abierto entre empresas de IA y usuarios. La colaboración de Marlinspike con Meta ofrece la oportunidad de aplicar cifrado a modelos cerrados y propietarios, fusionando potencialmente la tecnología de IA más privada con las capacidades de IA más avanzadas.
La adopción de la IA cifrada aún está surgiendo, pero los expertos coinciden en que esta colaboración es un paso importante hacia la construcción de un futuro más seguro para las interacciones de la IA.
El éxito del proyecto dependerá de superar las complejidades de implementar el cifrado a escala, garantizando que la IA siga siendo poderosa y privada.
