Moxie Marlinspike, de oprichter van de beveiligde berichten-app Signal, werkt samen met Meta om op privacy gerichte encryptie te integreren in zijn AI-systemen. Deze stap is bedoeld om een groeiende kloof in de gegevensbeveiliging aan te pakken: terwijl miljarden berichten die worden uitgewisseld op platforms als Signal, WhatsApp en iMessage worden beschermd door end-to-end-encryptie, ontberen gesprekken met AI-chatbots momenteel dezelfde waarborgen.
Het probleem: onbeschermde AI-interacties
AI-bedrijven verzamelen routinematig gebruikersgegevens uit chatbot-interacties om hun modellen te trainen. Het is vaak moeilijk of onmogelijk om je af te melden voor gegevensverzameling, waardoor gevoelige uitwisselingen blootstaan aan bedrijven, werknemers, hackers en zelfs overheidsverzoeken. Het initiatief van Marlinspike wil daar verandering in brengen. Hij stelt dat naarmate AI krachtiger wordt, er nog meer privégegevens in deze systemen zullen stromen, waardoor encryptie essentieel wordt.
Confereren: de kerntechnologie
De oplossing is afkomstig van het nieuwe AI-platform van Marlinspike, Confer, dat Meta AI zal ondersteunen met zijn privacytechnologie. Hoewel de details van de integratie niet openbaar worden gemaakt, is het doel van het project om de kracht van geavanceerde AI te combineren met de privacy van gecodeerde communicatie. Confer zal met name onafhankelijk blijven opereren, waardoor een zekere mate van scheiding van Meta’s bredere datapraktijken wordt gewaarborgd.
Meta’s toewijding aan privacy
WhatsApp-hoofd Will Cathcart benadrukte het belang van veilige AI-interacties, vooral voor gevoelige persoonlijke gegevens. De samenwerking bouwt voort op Marlinspike’s eerdere werk met WhatsApp in 2016, toen hij hielp bij het implementeren van end-to-end-encryptie voor meer dan een miljard gebruikers. Het integreren van encryptie in AI is echter complexer dan traditionele berichtenuitwisseling, omdat cryptografische schema’s die zijn ontworpen voor op tekst gebaseerde communicatie zich niet direct vertalen naar generatieve AI.
Deskundige perspectieven
Cryptografieonderzoekers beschouwen Confer als een veelbelovende stap voorwaarts, zij het niet zonder beperkingen. Mallory Knodel van de New York University merkt op dat gecodeerde AI zou voorkomen dat Meta toegang krijgt tot chatgegevens voor trainingsdoeleinden, wat van cruciaal belang is voor het behoud van de privacy van gebruikers. JP Aumasson, hoofdveiligheidsfunctionaris bij Taurus, is het daarmee eens en noemt Confer “de beste particuliere AI-oplossing”, ondanks het gebrek aan volledige transparantie met betrekking tot de architectuur en toeleveringsketen.
Uitdagingen en kansen
Het ontwikkelen van encryptie voor AI brengt aanzienlijke hindernissen met zich mee. Veel van het bestaande privacywerk is gericht op open-sourcemodellen of lagen tussen AI-bedrijven en gebruikers. De samenwerking van Marlinspike met Meta biedt de mogelijkheid om encryptie toe te passen op gesloten, eigen modellen, waardoor mogelijk de meest private AI-technologie wordt gecombineerd met de meest geavanceerde AI-mogelijkheden.
De acceptatie van gecodeerde AI is nog steeds in opkomst, maar experts zijn het erover eens dat deze samenwerking een belangrijke stap is in de richting van het bouwen van een veiligere toekomst voor AI-interacties.
Het succes van het project zal afhangen van het overwinnen van de complexiteit van het op grote schaal implementeren van encryptie, waarbij ervoor wordt gezorgd dat AI zowel krachtig als privé blijft.
