Moxie Marlinspike, der Gründer der sicheren Messaging-App Signal, arbeitet mit Meta zusammen, um datenschutzorientierte Verschlüsselung in seine KI-Systeme zu integrieren. Dieser Schritt zielt darauf ab, eine wachsende Lücke in der Datensicherheit zu schließen: Während Milliarden von Nachrichten, die auf Plattformen wie Signal, WhatsApp und iMessage ausgetauscht werden, durch Ende-zu-Ende-Verschlüsselung geschützt sind, fehlen bei Gesprächen mit KI-Chatbots derzeit dieselben Schutzmaßnahmen.
Das Problem: Ungeschützte KI-Interaktionen
KI-Unternehmen sammeln routinemäßig Benutzerdaten aus Chatbot-Interaktionen, um ihre Modelle zu trainieren. Der Ausschluss aus der Datenerhebung ist oft schwierig oder unmöglich, sodass sensible Austausche der Gefahr von Unternehmen, Mitarbeitern, Hackern und sogar Regierungsanfragen ausgesetzt sind. Die Initiative von Marlinspike will das ändern. Er argumentiert, dass mit zunehmender Leistungsfähigkeit der KI noch mehr private Daten in diese Systeme fließen werden, was eine Verschlüsselung unerlässlich macht.
Confer: Die Kerntechnologie
Die Lösung kommt von Marlinspikes neuer KI-Plattform Confer, die Meta AI mit ihrer Datenschutztechnologie unterstützen wird. Während die Einzelheiten der Integration noch nicht bekannt gegeben werden, besteht das Ziel des Projekts darin, die Leistungsfähigkeit fortschrittlicher KI mit der Privatsphäre verschlüsselter Kommunikation zu kombinieren. Insbesondere wird Confer weiterhin unabhängig agieren und so eine gewisse Trennung von den umfassenderen Datenpraktiken von Meta gewährleisten.
Metas Engagement für den Datenschutz
WhatsApp-Chef Will Cathcart betonte die Bedeutung sicherer KI-Interaktionen, insbesondere für sensible personenbezogene Daten. Die Zusammenarbeit baut auf Marlinspikes früherer Arbeit mit WhatsApp im Jahr 2016 auf, als er bei der Implementierung einer Ende-zu-Ende-Verschlüsselung für über eine Milliarde Benutzer half. Die Integration der Verschlüsselung in die KI ist jedoch komplexer als die herkömmliche Nachrichtenübermittlung, da sich kryptografische Schemata, die für die textbasierte Kommunikation entwickelt wurden, nicht direkt auf generative KI übertragen lassen.
Expertenperspektiven
Kryptographieforscher sehen in Confer einen vielversprechenden Fortschritt, wenn auch nicht ohne Einschränkungen. Mallory Knodel von der New York University weist darauf hin, dass verschlüsselte KI Meta daran hindern würde, zu Trainingszwecken auf Chat-Daten zuzugreifen, was für die Wahrung der Privatsphäre der Benutzer von entscheidender Bedeutung ist. JP Aumasson, Chief Security Officer bei Taurus, stimmt zu und bezeichnet Confer als „die beste private KI-Lösung“, obwohl es keine vollständige Transparenz hinsichtlich seiner Architektur und Lieferkette gibt.
Herausforderungen und Chancen
Die Entwicklung einer Verschlüsselung für KI stellt erhebliche Hürden dar. Ein Großteil der bestehenden Datenschutzarbeit konzentrierte sich auf Open-Source-Modelle oder Schichten zwischen KI-Unternehmen und Benutzern. Die Zusammenarbeit von Marlinspike mit Meta bietet die Möglichkeit, Verschlüsselung auf geschlossene, proprietäre Modelle anzuwenden und so möglicherweise die privateste KI-Technologie mit den fortschrittlichsten KI-Funktionen zu verbinden.
Die Einführung verschlüsselter KI steht noch bevor, aber Experten sind sich einig, dass diese Zusammenarbeit einen wichtigen Schritt hin zum Aufbau einer sichereren Zukunft für KI-Interaktionen darstellt.
Der Erfolg des Projekts wird davon abhängen, dass die Komplexität der Implementierung von Verschlüsselung in großem Maßstab überwunden wird und sichergestellt wird, dass die KI sowohl leistungsstark als auch privat bleibt.
