Мокси Марлинспайк, основатель защищенного мессенджера Signal, сотрудничает с Meta для интеграции ориентированного на конфиденциальность шифрования в её AI-системы. Этот шаг призван устранить растущий пробел в безопасности данных: в то время как миллиарды сообщений, которыми обмениваются на платформах, таких как Signal, WhatsApp и iMessage, защищены сквозным шифрованием, разговоры с AI-чатботами в настоящее время лишены такой защиты.
Проблема: Незащищённые AI-Взаимодействия
AI-компании систематически собирают пользовательские данные из взаимодействий с чатботами для обучения своих моделей. Отказаться от сбора данных часто бывает сложно или невозможно, что подвергает конфиденциальные обмены компаниям, сотрудникам, хакерам и даже государственным запросам. Инициатива Марлинспайка направлена на изменение этого. Он утверждает, что по мере того, как AI становится всё мощнее, в эти системы будет поступать ещё больше личных данных, что делает шифрование необходимым.
Confer: Базовая Технология
Решение приходит от новой AI-платформы Марлинспайка, Confer, которая станет основой для Meta AI с её технологией конфиденциальности. Хотя конкретные детали интеграции остаются нераскрытыми, цель проекта — объединить мощность передового AI с конфиденциальностью зашифрованной коммуникации. Важно отметить, что Confer продолжит функционировать независимо, обеспечивая определенную степень отделения от более широкой практики обработки данных Meta.
Приверженность Meta Конфиденциальности
Глава WhatsApp Уилл Кэткарт подчеркнул важность безопасных AI-взаимодействий, особенно в отношении конфиденциальных личных данных. Сотрудничество опирается на предыдущую работу Марлинспайка с WhatsApp в 2016 году, когда он помог внедрить сквозное шифрование для более чем миллиарда пользователей. Однако интеграция шифрования в AI сложнее, чем в традиционных сообщениях, поскольку криптографические схемы, разработанные для текстовой коммуникации, не могут быть напрямую перенесены на генеративный AI.
Мнения Экспертов
Исследователи в области криптографии признают Confer перспективным шагом вперёд, хотя и не без ограничений. Мэллори Кнодель из Нью-Йоркского университета отмечает, что зашифрованный AI не позволит Meta получать доступ к данным чатов для обучения, что критически важно для поддержания конфиденциальности пользователей. ЖП Аумасcон, главный специалист по безопасности в Taurus, согласен, называя Confer «лучшим решением для приватного AI», несмотря на отсутствие полной прозрачности в отношении его архитектуры и цепочки поставок.
Проблемы и Возможности
Разработка шифрования для AI представляет значительные препятствия. Большая часть существующих работ в области конфиденциальности была сосредоточена на моделях с открытым исходным кодом или слоях между AI-компаниями и пользователями. Сотрудничество Марлинспайка с Meta предоставляет возможность применить шифрование к закрытым проприетарным моделям, потенциально объединив наиболее приватную AI-технологию с самыми передовыми AI-возможностями.
Внедрение зашифрованного AI всё ещё находится на начальной стадии, но эксперты согласны с тем, что это сотрудничество является важным шагом к построению более безопасного будущего для AI-взаимодействий.
Успех проекта будет зависеть от преодоления сложностей внедрения шифрования в масштабе, обеспечивая, чтобы AI оставался одновременно мощным и приватным.
