Atraída por videogames e quebra-cabeças quando criança, Marzyeh Ghassemi também ficou fascinada pela vida desde muito jovem. Felizmente, ele encontrou uma maneira de combinar esses dois interesses.
“Embora eu tivesse pensado em uma carreira na área da saúde, a atração da ciência da computação e da engenharia era forte”, disse Ghassemi, professor associado do Departamento de Engenharia Elétrica e Ciência da Computação e do Instituto de Engenharia e Ciência Médica (IMES) e principal. investigador do Laboratório de Sistemas de Informação e Decisão (LIDS). “Quando descobri que a ciência da computação em geral, e a IA/ML especificamente, poderiam ser aplicadas à saúde, foi uma confluência de interesses.”
Hoje, Ghassemi e seu grupo de pesquisa sobre ML Saudável no LIDS estão trabalhando em pesquisas aprofundadas sobre como o aprendizado de máquina (ML) pode se tornar mais robusto e, posteriormente, usado para melhorar a segurança e a equidade na saúde.
Crescendo no Texas e no Novo México em uma família iraniano-americana com formação em engenharia, Ghassemi tinha modelos a seguir em uma carreira em STEM. Embora ele adorasse videogames baseados em quebra-cabeças – “Resolver quebra-cabeças para desbloquear outros níveis ou progredir era um desafio atraente” – sua mãe também lhe ensinou matemática mais avançada desde o início, incutindo nele uma visão da matemática como mais do que aritmética.
“Adição ou multiplicação são habilidades básicas que são enfatizadas por um bom motivo, mas o foco pode obscurecer a ideia de que grande parte da matemática e da ciência de alto nível envolve raciocínio e quebra-cabeças”, disse Ghassemi. “Por causa do incentivo da minha mãe, eu sabia que havia coisas interessantes pela frente.”
Ghassemi diz que além da mãe, há muitas outras pessoas que apoiam o seu desenvolvimento intelectual. Ao receber seu diploma de graduação na New Mexico State University, o diretor do Honors College e ex-aluno do Marshall – Jason Ackelson, agora conselheiro sênior do Departamento de Segurança Interna dos EUA – ajudou-o a se inscrever para a bolsa Marshall, que ele aceitou. na Universidade de Oxford, onde obteve seu mestrado em 2011 e se interessou pelo novo e em desenvolvimento campo de aprendizado de máquina. Enquanto trabalhava em seu doutorado no MIT, Ghassemi diz que recebeu apoio de “professores e colegas”, acrescentando: “Esse ambiente de abertura e aceitação é algo que tento replicar em meus alunos”.
Enquanto trabalhava no seu doutoramento, Ghassemi também encontrou a primeira indicação de que distorções nos dados de saúde podem estar escondidas em modelos de aprendizagem automática.
Ele treinou modelos para prever resultados usando dados de saúde, “e a ideia na época era usar todos os dados disponíveis. Nas redes neurais para gráficos, vimos que os recursos certos serão aprendidos para um desempenho ideal, eliminando a necessidade de projetar manualmente determinados recursos.”
Durante uma reunião com Leo Celi, principal pesquisador do Laboratório de Fisiologia Computacional do MIT e IMES e membro do comitê de tese de Ghassemi, Celi perguntou se Ghassemi havia testado quão bem os modelos funcionavam para pacientes de diferentes gêneros, tipos de seguro e auto-ajuda. etnias relatadas.
Ghassemi olhou, havia vagas. “Temos agora quase uma década de trabalho que mostra que estas lacunas nos modelos são difíceis de resolver – resultam de preconceitos inerentes aos dados de saúde e aos processos tecnológicos automatizados. A menos que se pense bem, os modelos irão reproduzir-se e aumentar os preconceitos”, diz ele.
Ghassemi tem explorado essas questões desde então.
O sucesso que ele desfruta em sua carreira veio de muitas partes. Primeiro, ele e sua equipe de pesquisa mostraram que os modelos de aprendizagem podem detectar a raça de um paciente em imagens médicas, como radiografias de tórax, o que os radiologistas não conseguem. A equipa descobriu então que os modelos desenvolvidos para terem um bom desempenho “em média” não tinham um bom desempenho para as mulheres e as minorias. No verão passado, a sua equipa combinou estas descobertas para mostrar que quanto mais um modelo aprende a prever a raça ou o género de um paciente a partir de uma imagem médica, pior será a diferença de desempenho para os subgrupos desses dados demográficos. Ghassemi e a sua equipa descobriram que o problema pode ser reduzido se o modelo for treinado para ter em conta as diferenças populacionais, em vez de se concentrar no desempenho médio geral – mas este processo deve ser feito para todos os locais onde o modelo é utilizado.
“Enfatizamos que os modelos treinados para melhorar a eficiência (estimando o desempenho global com uma lacuna de baixa precisão) num ambiente hospitalar não são apropriados para outros ambientes. Isto tem um impacto significativo na forma como os modelos são desenvolvidos para uso humano”, disse Ghassemi. “Um hospital pode ter instalações para treinar um modelo e depois ser capaz de mostrar que funciona bem, talvez até mesmo se houver algumas questões de imparcialidade. No entanto, a nossa investigação mostra que estas garantias de desempenho não se sustentam em novos ambientes. Um modelo bem equilibrado numa área pode não funcionar bem numa área diferente. Isto afeta o desempenho dos modelos na prática, e é importante que trabalhemos para resolver esta questão para aqueles que desenvolvem e utilizam os modelos. “
O trabalho de Ghassemi é informado por quem ele é.
“Sou uma mulher muçulmana praticante e mãe – ambas ajudaram a moldar a minha visão do mundo, o que informa os meus interesses de investigação”, disse ela. “Estou trabalhando na robustez dos modelos de aprendizado de máquina e em como a falta de robustez pode interagir com preconceitos inerentes. Esse interesse não aconteceu por acaso.”
Quanto ao seu processo de pensamento, Ghassemi diz que a inspiração muitas vezes surge quando ele está ao ar livre – andando de bicicleta no Novo México quando era estudante de graduação, remando em Oxford, correndo como estudante de doutorado no MIT e, atualmente, caminhando pela Cambridge Esplanade. Ele também diz que acha útil, ao abordar um problema complexo, pensar nas partes do problema maior e tentar entender como seu pensamento sobre cada parte pode estar errado.
“Na minha experiência, a maior limitação para novas soluções é o que você pensa que sabe”, diz ele. Às vezes é difícil superar seu próprio conhecimento (parcial) sobre algo até que você se aprofunde no modelo, programa, etc., e perceba que não entendeu uma parte correta ou completamente.”
Por mais apaixonado que Ghassemi seja por seu trabalho, ele deliberadamente acompanha o panorama geral da vida.
“Se você ama sua pesquisa, pode ser difícil impedir que ela seja você – algo que acho que mais acadêmicos deveriam estar cientes”, diz ele. “Tento ter certeza de que tenho interesses (e conhecimento) além da minha experiência.
“Uma das melhores maneiras de ajudar a priorizar o equilíbrio é estar com as pessoas certas. Se você tem familiares, amigos ou colegas de trabalho que o incentivam a ser uma pessoa plena, segure-os!”
Tendo ganhado muitos prêmios e reconhecimentos por um trabalho que combina duas paixões iniciais – ciência da computação e vida – Ghassemi diz acreditar em ver a vida como uma jornada.
“Há uma citação do poeta persa Rumi que se traduz como 'Você é o que você quer'”, disse ele. “Em todas as fases da sua vida, você tem que reinvestir para descobrir quem você é e levá-lo em direção a quem você deseja ser.”
