Moxie Marlinspike, fundadora do aplicativo de mensagens seguras Signal, está colaborando com a Meta para integrar criptografia focada na privacidade em seus sistemas de IA. Esta medida visa colmatar uma lacuna crescente na segurança dos dados: enquanto milhares de milhões de mensagens trocadas em plataformas como Signal, WhatsApp e iMessage são protegidas por encriptação de ponta a ponta, as conversas com chatbots de IA atualmente carecem das mesmas salvaguardas.
O problema: interações de IA desprotegidas
As empresas de IA coletam rotineiramente dados de usuários a partir de interações de chatbot para treinar seus modelos. A recusa da coleta de dados costuma ser difícil ou impossível, deixando trocas confidenciais expostas a empresas, funcionários, hackers e até mesmo a solicitações governamentais. A iniciativa da Marlinspike procura mudar isso. Ele argumenta que à medida que a IA se torna mais poderosa, ainda mais dados privados fluirão para estes sistemas, tornando a encriptação essencial.
Conferência: a tecnologia principal
A solução vem da nova plataforma de IA da Marlinspike, Confer, que sustentará a Meta AI com sua tecnologia de privacidade. Embora as especificidades da integração permaneçam não reveladas, o objetivo do projeto é combinar o poder da IA avançada com a privacidade da comunicação criptografada. Notavelmente, a Confer continuará a operar de forma independente, garantindo um certo grau de separação das práticas de dados mais amplas da Meta.
Compromisso da Meta com a privacidade
O chefe do WhatsApp, Will Cathcart, enfatizou a importância de interações seguras de IA, especialmente para dados pessoais confidenciais. A colaboração baseia-se no trabalho anterior de Marlinspike com o WhatsApp em 2016, quando ajudou a implementar criptografia ponta a ponta para mais de um bilhão de usuários. No entanto, a integração da criptografia na IA é mais complexa do que as mensagens tradicionais, pois os esquemas criptográficos projetados para comunicação baseada em texto não se traduzem diretamente em IA generativa.
Perspectivas de especialistas
Os pesquisadores de criptografia reconhecem o Confer como um avanço promissor, embora não sem limitações. Mallory Knodel, da Universidade de Nova York, observa que a IA criptografada impediria o Meta de acessar dados de bate-papo para fins de treinamento, o que é fundamental para manter a privacidade do usuário. JP Aumasson, diretor de segurança da Taurus, concorda, chamando o Confer de “a melhor solução privada de IA”, apesar da falta de transparência total em relação à sua arquitetura e cadeia de fornecimento.
Desafios e oportunidades
O desenvolvimento de criptografia para IA apresenta obstáculos significativos. Grande parte do trabalho existente sobre privacidade concentrou-se em modelos de código aberto ou camadas entre empresas de IA e usuários. A colaboração da Marlinspike com a Meta oferece uma oportunidade de aplicar criptografia a modelos proprietários e fechados, mesclando potencialmente a tecnologia de IA mais privada com os recursos de IA mais avançados.
A adopção de IA encriptada ainda está a emergir, mas os especialistas concordam que esta colaboração é um passo significativo para a construção de um futuro mais seguro para as interacções de IA.
O sucesso do projeto dependerá da superação das complexidades da implementação da criptografia em escala, garantindo que a IA permaneça poderosa e privada.
