Entre os benefícios oferecidos pela tomada de decisão algorítmica e pela inteligência artificial – incluindo a velocidade de mudança, a eficiência e a capacidade preditiva em muitos campos – Manish Raghavan trabalha para reduzir os riscos associados, ao mesmo tempo que procura oportunidades para utilizar a tecnologia para ajudar com problemas existentes. ansiedade social.
“Em última análise, quero que minha pesquisa se concentre em encontrar melhores soluções para problemas sociais de longa data”, disse Raghavan, professor de desenvolvimento de carreira Drew Houston na Sloan School of Management e no Departamento de Engenharia Elétrica e Ciência da Computação do MIT e investigador principal do Laboratório. de Sistemas de Informação e Decisão (LIDS).
Um bom exemplo da intenção de Raghavan pode ser encontrado na sua exploração do uso da IA no recrutamento.
Raghavan diz: “É difícil argumentar que as práticas de contratação historicamente têm sido ótimas ou deveriam ser mantidas, e as ferramentas que aprendem com os dados históricos herdam todos os preconceitos e erros que as pessoas cometeram no passado”.
Aqui, porém, Raghavan cita uma oportunidade potencial.
“É sempre difícil medir a discriminação”, disse ele, acrescentando: “Os sistemas baseados em IA são por vezes mais fáceis de ver e medir do que os humanos, e um dos objectivos do meu trabalho é compreender como podemos usar esta visibilidade melhorada para vir criar novas maneiras de detectar quando os sistemas se comportam mal.”
Crescendo na área da baía de São Francisco, com pais formados em ciência da computação, Raghavan diz que originalmente queria ser médico. Pouco antes de iniciar a faculdade, seu amor pela matemática e pelos computadores o levou a seguir o exemplo de sua família na ciência da computação. Depois de passar um verão como estudante de graduação fazendo pesquisas na Universidade Cornell com Jon Kleinberg, professor de ciência da computação e ciência da informação, ele decidiu que queria fazer seu doutorado lá, escrevendo sua tese sobre “Os impactos sociais da tomada de decisões algorítmicas”.
Raghavan ganhou prêmios por seu trabalho, incluindo um prêmio do Programa de Bolsas de Pesquisa de Pós-Graduação da National Science Foundation, uma bolsa de doutorado em pesquisa da Microsoft e um prêmio de dissertação de doutorado do Departamento de Ciência da Computação da Universidade Cornell.
Em 2022, ingressou no corpo docente do MIT.
Talvez ouvindo seu interesse inicial pela medicina, Raghavan conduziu uma pesquisa sobre como as decisões de uma ferramenta de avaliação algorítmica altamente precisa usada na avaliação de pacientes com sangramento gastrointestinal, conhecida como Pontuação de Glasgow-Blatchford (GBS), são melhoradas por um especialista correspondente. . conselho do médico.
“O GBS é, em média, igual ao dos humanos, mas isso não significa que não existam pacientes individuais, ou pequenos grupos de pacientes, onde o GBS esteja errado e os médicos possam estar certos”, disse ele. “Nossa esperança é que possamos identificar esses pacientes precocemente para que a resposta do médico seja mais importante”.
Raghavan também trabalhou na forma como as plataformas online afetam seus usuários, considerando como os algoritmos de mídia social analisam o conteúdo que os usuários escolhem e mostram-lhes mais desse tipo de conteúdo. A dificuldade, diz Raghavan, é que os usuários podem escolher o que assistem da mesma forma que pegam um saco de batatas fritas, que são saborosas, mas nem todas nutritivas. A experiência pode ser satisfatória no momento, mas pode deixar o usuário um pouco enjoado.
Raghavan e seus colegas modelaram como um usuário com desejos conflitantes – de gratificação imediata versus desejo de gratificação de longo prazo – interage com a plataforma. O modelo mostra como o design da plataforma pode ser alterado para promover a melhor experiência. O modelo ganhou o prêmio Exemplary Applied Modeling Track Paper na Conferência de Economia e Computação da Association for Computing Machinery de 2022.
“A satisfação a longo prazo é importante no final, mesmo que tudo o que importa sejam os interesses da empresa”, disse Raghavan. “Se conseguirmos começar a construir provas de que os interesses dos utilizadores e das empresas estão mais alinhados, espero que possamos promover plataformas saudáveis sem necessidade de resolver conflitos de interesses entre utilizadores e plataformas. Claro, isso faz sentido. Mas a minha sensação é que poucas pessoas nestas empresas acreditam que há espaço para fazer todos felizes, e elas simplesmente não têm as ferramentas intelectuais e tecnológicas para fazer isso acontecer.”
Com relação ao seu processo de criação de ideias para tais ferramentas e ideias sobre como usar melhor as técnicas de clustering, Raghavan diz que suas melhores ideias surgem quando ele pensa sobre um problema por um longo tempo. Ele aconselhou seus alunos, diz ele, a seguirem seu exemplo de deixar de lado um problema muito difícil por um dia e depois voltar a ele.
“As coisas geralmente melhoram no dia seguinte”, diz ele.
Quando não está resolvendo problemas ou ensinando, Raghavan costuma ser encontrado no campo de futebol, como técnico do Harvard Men's Soccer Club, cargo de que gosta.
“Não posso adiar as coisas quando sei que terei que passar a noite em campo, e isso me dá algo pelo que ansiar no final do dia”, diz ele. “Tento ter em minha agenda coisas que pareçam importantes para mim como trabalho, para que eu possa colocar em forma esses desafios e obstáculos.”
Enquanto Raghavan analisa como pode usar a tecnologia informática para melhor servir o nosso mundo, ele diz que acha que a coisa mais interessante que está acontecendo em seu campo é a ideia de que a IA irá desbloquear novos insights “para as pessoas e para a sociedade humana”.
Ele diz: “Espero que possamos usá-lo para nos compreender melhor”.
