Moxie Marlinspike, zakladatel aplikace pro bezpečné zasílání zpráv Signal, spolupracuje se společností Meta na integraci šifrování zaměřeného na soukromí do svých systémů AI. Tento krok má za cíl vyřešit rostoucí mezeru v zabezpečení dat: zatímco miliardy zpráv vyměňovaných na platformách jako Signal, WhatsApp a iMessage jsou chráněny šifrováním typu end-to-end, konverzace s chatboty AI v současnosti takovou ochranu postrádají.
Problem: Insecure AI Interactions
AI společnosti systematicky shromažďují uživatelská data z interakcí chatbotů, aby trénovali své modely. Odhlášení ze shromažďování dat je často obtížné nebo nemožné, což vystavuje citlivé výměny informací společnostem, zaměstnancům, hackerům a dokonce i vládním požadavkům. Iniciativa Marlinspike to chce změnit. Tvrdí, že jak bude AI výkonnější, bude do těchto systémů proudit ještě více osobních dat, takže je nutné šifrování.
Konference: Základní technologie
Řešení pochází z nové platformy AI společnosti Marlinspike Confer, která bude základem pro Meta AI s její technologií ochrany soukromí. Zatímco konkrétní detaily integrace zůstávají nezveřejněny, projekt si klade za cíl spojit výkon pokročilé umělé inteligence se soukromím šifrované komunikace. Je důležité poznamenat, že Confer bude i nadále fungovat nezávisle a bude poskytovat určitý stupeň oddělení od širších datových postupů Meta.
Závazek společnosti Meta k ochraně osobních údajů
Generální ředitel WhatsApp Will Cathcart zdůraznil důležitost bezpečných interakcí s umělou inteligencí, zejména kolem citlivých osobních údajů. Spolupráce navazuje na předchozí Marlinspikeovu práci s WhatsApp v roce 2016, kdy pomohl zavést end-to-end šifrování více než miliardě uživatelů. Integrace šifrování do AI je však obtížnější než v tradičních komunikacích, protože kryptografická schémata vyvinutá pro textovou komunikaci nelze přímo přenést do generativní AI.
Názory odborníků
Výzkumníci v oblasti kryptografie uznávají Confer jako slibný krok vpřed, i když ne bez omezení. Mallory Knodel z New York University poznamenává, že šifrovaná umělá inteligence zabrání Meta v přístupu k datům chatu pro účely školení, což je zásadní pro zachování soukromí uživatelů. JP Aumasson, hlavní bezpečnostní ředitel společnosti Taurus, souhlasí a nazval Confer „nejlepším řešením pro soukromou AI“ navzdory nedostatku plné transparentnosti, pokud jde o jeho architekturu a dodavatelský řetězec.
Výzvy a příležitosti
Vývoj šifrování pro AI představuje značné překážky. Velká část stávající práce v oblasti soukromí se soustředila na modely s otevřeným zdrojovým kódem nebo vrstvy mezi společnostmi s umělou inteligencí a uživateli. Spolupráce Marlinspike s Meta poskytuje příležitost použít šifrování na uzavřené proprietární modely, které potenciálně spojují nejsoukromější technologii AI s nejpokročilejšími schopnostmi AI.
Přijetí šifrované umělé inteligence je stále v rané fázi, ale odborníci se shodují, že tato spolupráce je důležitým krokem k vybudování bezpečnější budoucnosti pro interakce s umělou inteligencí.
Úspěch projektu bude záviset na překonání výzev spojených s implementací šifrování ve velkém měřítku, přičemž bude zajištěno, že AI zůstane výkonná a soukromá.
