Moxie Marlinspike, fondatrice de l’application de messagerie sécurisée Signal, collabore avec Meta pour intégrer un cryptage axé sur la confidentialité dans ses systèmes d’IA. Cette décision vise à combler une lacune croissante en matière de sécurité des données : alors que des milliards de messages échangés sur des plateformes comme Signal, WhatsApp et iMessage sont protégés par un cryptage de bout en bout, les conversations avec les chatbots IA ne bénéficient actuellement pas des mêmes garanties.
Le problème : les interactions IA non protégées
Les sociétés d’IA collectent régulièrement les données des utilisateurs à partir des interactions des chatbots pour entraîner leurs modèles. Se désinscrire de la collecte de données est souvent difficile, voire impossible, laissant les échanges sensibles exposés aux entreprises, aux employés, aux pirates informatiques et même aux demandes du gouvernement. L’initiative de Marlinspike cherche à changer cela. Il affirme qu’à mesure que l’IA devient plus puissante, davantage de données privées circuleront dans ces systèmes, ce qui rendra le chiffrement essentiel.
Conférence : La technologie de base
La solution provient de la nouvelle plateforme d’IA de Marlinspike, Confer, qui soutiendra Meta AI avec sa technologie de confidentialité. Bien que les détails de l’intégration restent confidentiels, l’objectif du projet est de combiner la puissance de l’IA avancée avec la confidentialité des communications cryptées. Notamment, Confer continuera à fonctionner de manière indépendante, garantissant un certain degré de séparation par rapport aux pratiques plus larges en matière de données de Meta.
Engagement de Meta en matière de confidentialité
Will Cathcart, responsable de WhatsApp, a souligné l’importance des interactions sécurisées avec l’IA, en particulier pour les données personnelles sensibles. Cette collaboration s’appuie sur le travail précédent de Marlinspike avec WhatsApp en 2016, lorsqu’il avait contribué à la mise en œuvre d’un cryptage de bout en bout pour plus d’un milliard d’utilisateurs. Cependant, l’intégration du chiffrement dans l’IA est plus complexe que la messagerie traditionnelle, car les schémas cryptographiques conçus pour la communication textuelle ne se traduisent pas directement en IA générative.
Points de vue d’experts
Les chercheurs en cryptographie reconnaissent Confer comme une avancée prometteuse, mais non sans limites. Mallory Knodel, de l’Université de New York, note que l’IA cryptée empêcherait Meta d’accéder aux données de chat à des fins de formation, ce qui est essentiel pour préserver la confidentialité des utilisateurs. JP Aumasson, responsable de la sécurité chez Taurus, est du même avis, qualifiant Confer de « meilleure solution d’IA privée » malgré le manque de transparence totale sur son architecture et sa chaîne d’approvisionnement.
Défis et opportunités
Le développement du chiffrement pour l’IA présente des obstacles importants. Une grande partie des travaux existants sur la confidentialité se sont concentrés sur des modèles ou des couches open source entre les sociétés d’IA et les utilisateurs. La collaboration de Marlinspike avec Meta offre l’opportunité d’appliquer le cryptage à des modèles fermés et propriétaires, fusionnant potentiellement la technologie d’IA la plus privée avec les capacités d’IA les plus avancées.
L’adoption de l’IA chiffrée est encore émergente, mais les experts s’accordent à dire que cette collaboration constitue une étape importante vers la construction d’un avenir plus sécurisé pour les interactions avec l’IA.
Le succès du projet dépendra de la nécessité de surmonter les complexités liées à la mise en œuvre du chiffrement à grande échelle, afin de garantir que l’IA reste à la fois puissante et privée.
