Моксі Марлінспайк, засновник захищеного месенджера Signal, співпрацює з Meta для інтеграції орієнтованого на конфіденційність шифрування до її AI-системи. Цей крок покликаний усунути зростаючий пробіл у безпеці даних: у той час як мільярди повідомлень, якими обмінюються на платформах, таких як Signal, WhatsApp та iMessage, захищені наскрізним шифруванням, розмови з AI-чатами нині позбавлені такого захисту.
Проблема: Незахищені AI-взаємодії
AI-компанії систематично збирають дані користувача з взаємодій з чатботами для навчання своїх моделей. Відмовитися від збору даних часто буває складно чи неможливо, що наражає конфіденційні обміни компаніям, співробітникам, хакерам і навіть державним запитам. Ініціатива Марлінспайка спрямована на зміну цього. Він стверджує, що в міру того, як AI стає все потужнішим, у ці системи надходитиме ще більше особистих даних, що робить шифрування необхідним.
Confer: Базова Технологія
Рішення приходить від нової AI-платформи Марлінспайка, Confer, яка стане основою Meta AI з її технологією конфіденційності. Хоча конкретні деталі інтеграції залишаються нерозкритими, мета проекту – об’єднати потужність передового AI із конфіденційністю зашифрованої комунікації. Важливо відзначити, що Confer продовжуватиме функціонувати незалежно, забезпечуючи певний ступінь відокремлення від більш широкої практики обробки даних Meta.
Прихильність Meta Конфіденційності
Глава WhatsApp Вілл Кеткарт наголосив на важливості безпечних AI-взаємодій, особливо щодо конфіденційних особистих даних. Співпраця спирається на попередню роботу Марлінспайка з WhatsApp у 2016 році, коли він допоміг запровадити наскрізне шифрування для понад мільярда користувачів. Однак інтеграція шифрування в AI складніша, ніж у традиційних повідомленнях, оскільки криптографічні схеми, розроблені для текстової комунікації, не можуть бути безпосередньо перенесені на генеративний AI.
Думки Експертів
Дослідники в галузі криптографії визнають Confer перспективним кроком уперед, хоч і не без обмежень. Мелорі Кнодель із Нью-Йоркського університету зазначає, що зашифрований AI не дозволить Meta отримувати доступ до даних чатів для навчання, що є критично важливим для підтримки конфіденційності користувачів. ЖП Аумасcон, головний спеціаліст з безпеки в Taurus, згоден, називаючи Confer «найкращим рішенням для приватного AI», незважаючи на відсутність повної прозорості щодо його архітектури та ланцюжка постачання.
Проблеми та Можливості
Розробка шифрування для AI становить значні перешкоди. Більшість існуючих робіт у сфері конфіденційності була зосереджена на моделях з відкритим вихідним кодом або шарах між AI-компаніями та користувачами. Співпраця Марлінспайка з Meta надає можливість застосувати шифрування до закритих пропрієтарних моделей, потенційно об’єднавши найбільш приватну AI-технологію з передовими AI-можливостями.
Впровадження зашифрованого AI все ще знаходиться на початковій стадії, але експерти згодні з тим, що ця співпраця є важливим кроком до побудови безпечнішого майбутнього для AI-взаємодій.
Успіх проекту залежатиме від подолання складнощів впровадження шифрування в масштабі, забезпечуючи, щоб AI залишався одночасно потужним та приватним.
