Moxie Marlinspike, założycielka aplikacji Signal do bezpiecznego przesyłania wiadomości, współpracuje z firmą Meta w celu zintegrowania szyfrowania zapewniającego prywatność z jej systemami AI. To posunięcie ma na celu wypełnienie rosnącej luki w bezpieczeństwie danych: podczas gdy miliardy wiadomości wymienianych na platformach takich jak Signal, WhatsApp i iMessage są chronione kompleksowym szyfrowaniem, rozmowy z chatbotami AI nie są obecnie objęte taką ochroną.
Problem: niepewne interakcje AI
Firmy zajmujące się sztuczną inteligencją systematycznie zbierają dane użytkowników z interakcji chatbota w celu szkolenia swoich modeli. Rezygnacja z gromadzenia danych jest często trudna lub niemożliwa, narażając poufne wymiany danych na firmy, pracowników, hakerów, a nawet wnioski rządowe. Inicjatywa Marlinspike ma na celu to zmienić. Twierdzi, że w miarę jak sztuczna inteligencja stanie się potężniejsza, do tych systemów będzie napływać jeszcze więcej danych osobowych, co spowoduje konieczność szyfrowania.
Konferencja: Podstawowa technologia
Rozwiązanie pochodzi z nowej platformy AI Marlinspike, Confer, która będzie podstawą Meta AI z technologią prywatności. Chociaż szczegółowe szczegóły integracji pozostają nieujawnione, projekt ma na celu połączenie mocy zaawansowanej sztucznej inteligencji z prywatnością szyfrowanej komunikacji. Należy zauważyć, że Confer będzie nadal działać niezależnie, zapewniając pewien stopień oddzielenia od szerszych praktyk Meta dotyczących danych.
Meta zaangażowanie w prywatność
Dyrektor generalny WhatsApp, Will Cathcart, podkreślił znaczenie bezpiecznych interakcji AI, szczególnie w przypadku wrażliwych danych osobowych. Współpraca opiera się na wcześniejszej współpracy Marlinspike’a z WhatsApp w 2016 r., kiedy pomógł on we wprowadzeniu kompleksowego szyfrowania dla ponad miliarda użytkowników. Jednak zintegrowanie szyfrowania ze sztuczną inteligencją jest trudniejsze niż w przypadku tradycyjnej komunikacji, ponieważ schematów kryptograficznych opracowanych na potrzeby komunikacji tekstowej nie można bezpośrednio przenieść do generatywnej sztucznej inteligencji.
Opinie ekspertów
Badacze kryptografii uznają Confer za obiecujący krok naprzód, choć nie pozbawiony ograniczeń. Mallory Knodel z New York University zauważa, że zaszyfrowana sztuczna inteligencja uniemożliwi Meta dostęp do danych czatu w celach szkoleniowych, co ma kluczowe znaczenie dla zachowania prywatności użytkowników. JP Aumasson, dyrektor ds. bezpieczeństwa w firmie Taurus, zgadza się z tym, nazywając Confer „najlepszym rozwiązaniem dla prywatnej sztucznej inteligencji” pomimo braku pełnej przejrzystości w zakresie jego architektury i łańcucha dostaw.
Wyzwania i możliwości
Opracowanie szyfrowania dla sztucznej inteligencji stwarza poważne przeszkody. Większość istniejących prac w dziedzinie prywatności skupiała się na modelach lub warstwach open source pomiędzy firmami zajmującymi się sztuczną inteligencją a użytkownikami. Współpraca Marlinspike z Meta zapewnia możliwość zastosowania szyfrowania w zamkniętych, zastrzeżonych modelach, potencjalnie łącząc najbardziej prywatną technologię sztucznej inteligencji z najbardziej zaawansowanymi możliwościami sztucznej inteligencji.
Wdrożenie szyfrowanej sztucznej inteligencji jest wciąż na wczesnym etapie, ale eksperci zgadzają się, że ta współpraca stanowi ważny krok w kierunku budowania bezpieczniejszej przyszłości interakcji AI.
Sukces projektu będzie zależał od pokonania wyzwań związanych z wdrażaniem szyfrowania na dużą skalę, przy jednoczesnym zapewnieniu, że sztuczna inteligencja pozostanie zarówno potężna, jak i prywatna.
