À medida que os agentes de inteligência artificial se tornam mais avançados, pode tornar-se cada vez mais difícil distinguir entre utilizadores alimentados por IA e pessoas reais online. Em um novo documento brancopesquisadores do MIT, OpenAI, Microsoft e outras empresas de tecnologia e instituições acadêmicas estão propondo o uso de informações pessoais, um método de autenticação que permite a uma pessoa mostrar que é uma pessoa real na Internet, preservando sua privacidade.
Notícias do MIT conversou com dois dos autores do artigo, Nouran Soliman, estudante de pós-graduação em engenharia elétrica e ciência da computação, e Tobin South, estudante de pós-graduação no Media Lab, sobre a necessidade de tais garantias, os riscos associados a elas e como elas funcionam eles. podem ser usados de maneira segura e equitativa.
Pergunta: Por que precisamos de segurança social?
Tobin Sul: As capacidades de IA estão a desenvolver-se rapidamente. Embora a maior parte do debate público tenha sido sobre como os chatbots estão cada vez melhores, a IA sofisticada permite mais capacidades do que o melhor ChatGPT, como a capacidade da IA de automatizar a comunicação online. A IA pode ter a capacidade de criar contas, postar conteúdo, gerar conteúdo falso, se passar por alguém online ou amplificar conteúdo algoritmicamente em grande escala. Isso abre muitos perigos. Você pode pensar nisso como o problema do “impostor digital”, onde se torna difícil distinguir entre IA complexa e humanos. As garantias pessoais são uma solução possível para esse problema.
Nouran Soliman: Essas capacidades avançadas de IA podem ajudar os malfeitores a realizar ataques em grande escala ou a espalhar informações erradas. A Internet poderia estar repleta de IAs que compartilham conteúdo de pessoas reais para realizar campanhas de desinformação. Será difícil navegar na Internet e, em particular, nas redes sociais. Você pode imaginar usar informações pessoais para filtrar conteúdo específico e moderar conteúdo em seu feed de mídia social ou para determinar o nível de confiança das informações que você encontra online.
Pergunta: O que é verificação de identidade e como garantir que as informações estão seguras?
Sul: Os traços de personalidade permitem que você mostre quem você é sem revelar mais nada sobre você. Essas informações permitem que você obtenha informações de uma empresa como o governo, que pode verificar se você é uma pessoa, e com a tecnologia de privacidade, permite que você prove esse fato sem compartilhar nenhuma informação sensível sobre sua identidade. Para obter o certificado de cidadania, você precisará comparecer pessoalmente ou ter vínculo com o governo, como número de identificação fiscal. Existe um componente offline. Você terá que fazer algo que só os humanos podem fazer. IAs não podem aparecer no Detran, por exemplo. E mesmo as IAs mais sofisticadas não conseguem manipular ou quebrar a criptografia. Portanto, combinamos duas ideias – a segurança que temos com a criptografia e o fato de que as pessoas ainda possuem algumas capacidades que o AIS não possui – para dar fortes garantias de que você é uma pessoa.
Soliman: Mas a prova de personalidade pode ser opcional. Os provedores de serviços podem permitir que as pessoas escolham se querem usá-lo ou não. No momento, se as pessoas desejam se conectar apenas com pessoas reais e verificadas online, não há uma maneira razoável de fazer isso. E além de criar conteúdo e conversar com as pessoas, em algum momento os agentes de IA também agirão em nome das pessoas. Se vou comprar algo on-line ou negociar um acordo, talvez eu queira ter certeza de que estou lidando com organizações que possuem credenciais humanas para garantir que sejam confiáveis.
Sul: As informações pessoais baseiam-se na infraestrutura e no conjunto de tecnologias de segurança que temos há décadas, como a utilização de identificadores, como uma conta de e-mail, para iniciar sessão em serviços online, e podem ser compatíveis com os métodos existentes.
Pergunta: Quais são alguns dos riscos associados às informações pessoais e como você pode reduzir esses riscos?
Soliman: Um perigo surge da forma como as credenciais pessoais podem ser usadas. Existem preocupações sobre a concentração de poder. Digamos que uma entidade específica seja o único emissor ou que o sistema seja projetado de tal forma que todo o poder seja atribuído a uma entidade. Isso pode causar muita ansiedade por parte das pessoas – talvez elas não confiem naquele negócio e não se sintam seguras em se associar a ele. Precisamos usar credenciais pessoais de forma que as pessoas confiem nos emissores e garantam que as identidades das pessoas estejam sempre completamente separadas das suas informações pessoais para manter a privacidade.
Sul: Se a única forma de obter um certificado de cidadania é ir fisicamente a algum lugar para provar que é uma pessoa, isso pode ser assustador se estiver num ambiente social e político onde é difícil ou perigoso ir a esse lugar. Isso pode impedir que algumas pessoas tenham a possibilidade de partilhar as suas mensagens online de forma irrestrita, restringindo potencialmente a liberdade de expressão. É por isso que é importante ter uma variedade de emissores de informações pessoais e um protocolo aberto para garantir que a liberdade de expressão seja mantida.
Soliman: O nosso artigo tenta encorajar governos, decisores políticos, líderes e investigadores a investirem mais recursos em dados pessoais. Sugerimos que os investigadores estudem diferentes diretrizes de utilização e examinem as implicações mais amplas que as informações pessoais podem ter na sociedade. Precisamos ter certeza de que criamos as políticas e leis corretas sobre como as credenciais de identidade devem ser usadas.
Sul: A IA está a avançar muito rapidamente, certamente mais rapidamente do que a velocidade a que os governos estão habituados. É hora de os governos e as grandes empresas começarem a pensar em como adaptar os seus sistemas digitais para estarem prontos para provar que alguém é uma pessoa, mas de uma forma que preserve a privacidade e a segurança, para que estejamos prontos quando chegarmos ao futuro, quando a IA tem esses recursos avançados.
