Novo modelo matemático pode ajudar a proteger a privacidade e garantir um uso mais seguro da IA

As ferramentas de IA são cada vez mais utilizadas para nos rastrear e monitorizar, tanto online como pessoalmente, mas a sua eficácia acarreta grandes riscos. Cientistas da computação do Oxford Internet Institute, do Imperial College London e da UCLouvain desenvolveram um novo modelo matemático que poderia ajudar as pessoas a compreender melhor os riscos representados pela IA e ajudar os reguladores a proteger a privacidade das pessoas.

As descobertas foram publicado 9 de janeiro em Comunicações da Natureza.

Pela primeira vez, o método fornece um quadro científico robusto para avaliar técnicas de identificação, especialmente quando se trata de dados em grande escala. Isso pode incluir, por exemplo, monitorar a precisão do código de publicidade e dos rastreadores invisíveis na identificação de usuários on-line a partir de pequenas informações, como fuso horário ou configurações do navegador (uma técnica chamada “impressão digital do navegador”).

Luc Rocher, autor principal, pesquisador sênior do Oxford Internet Institute, parte da Universidade de Oxford, disse: “Vemos nosso método como uma nova abordagem para ajudar a avaliar o risco de reidentificação na divulgação de dados, mas também para avaliar técnicas modernas de identificação em ambientes críticos e de alto risco.

“Em locais como hospitais, entrega de ajuda humanitária ou controlo de fronteiras, os riscos são incrivelmente elevados e a necessidade de uma identificação precisa e fiável é fundamental.”

O método baseia-se no campo da estatística bayesiana para aprender como os indivíduos são identificáveis ​​em pequena escala e extrapola a precisão da identificação para populações maiores até 10 vezes melhor do que as heurísticas e regras práticas anteriores. Isso confere ao método um poder único para avaliar o desempenho de diferentes técnicas de identificação de dados em escala, em diferentes aplicações e ambientes comportamentais.

Isto poderia ajudar a explicar por que algumas técnicas de identificação de IA funcionam com alta precisão quando testadas em pequenos estudos de caso, mas depois identificam incorretamente pessoas em condições do mundo real.

As conclusões são extremamente oportunas, dados os desafios colocados ao anonimato e à privacidade causados ​​pelo rápido aumento das técnicas de identificação baseadas em IA. Por exemplo, estão a ser testadas ferramentas de IA para identificar automaticamente os seres humanos a partir da sua voz em banco on-lineos seus olhos na entrega de ajuda humanitária ou o seu rosto na aplicação da lei.

Segundo os investigadores, o novo método poderá ajudar as organizações a encontrar um melhor equilíbrio entre os benefícios das tecnologias de IA e a necessidade de proteger as informações pessoais das pessoas, tornando as interações diárias com a tecnologia mais seguras e protegidas.

O seu método de teste permite a identificação de potenciais pontos fracos e áreas de melhoria antes da implementação em grande escala, o que é essencial para manter a segurança e a precisão.

O co-autor Professor Associado Yves-Alexandre de Montjoye (Data Science Institute, Imperial College, Londres) disse:”Nossa nova lei de escala fornece, pela primeira vez, um modelo matemático de princípios para avaliar como as técnicas de identificação funcionarão em escala.

“Compreender a escalabilidade da identificação é essencial para avaliar os riscos apresentados por essas re-identificação técnicas, inclusive para garantir a conformidade com as legislações modernas de proteção de dados em todo o mundo.”

Luc Rocher concluiu: “Acreditamos que este trabalho constitui um passo crucial para o desenvolvimento de métodos baseados em princípios para avaliar os riscos representados por técnicas de IA cada vez mais avançadas e a natureza da identificabilidade em vestígios humanos online.

“Esperamos que este trabalho seja de grande ajuda para investigadores, responsáveis ​​pela protecção de dados, comités de ética e outros profissionais que pretendam encontrar um equilíbrio entre a partilha de dados para investigação e a protecção da privacidade dos pacientes, participantes e cidadãos”.