Manifestantes da Universidade da Califórnia, Berkeley, reúnem contra cortes de financiamento e ataques à liberdade de expressão.Crédito: Santiago Mejia/São Francisco Chronicle/Getty
Em fevereiro, aprendi que uma Fundação da National Science concede financiamento do meu laboratório dos EUA, juntamente com mais de 3.000 outras doações, haviam sido sinalizadas para o escrutínio do governo federal porque, de acordo com o Comitê de Comércio do Senado dos EUA, “promoveu a diversidade, a equidade e a inclusão (DEI) ou a Warxist Warxist Advaganda Propaganda”.
Confesso que não tenho certeza do que significa “neo-marxista”. Sou um nerd de matemática, não um ideólogo. Comecei na Universidade de Stanford, na Califórnia, em 2009, como especialista em física, encantada pela elegância teórica de princípios variacionais e coletores da Riemannian. O que acabou me levando ao meu campo escolhido, a inteligência artificial (AI), não era política. Aprendi, aos 20 anos, que minha mãe, meu avô e todos carregamos uma mutação genética, mais comum em pessoas com ascendência judaica ashkenazi do que em outros grupos étnicos, que confere um risco muito alto de câncer. Enquanto lutava para lidar com as notícias sombrias, descobri que uma das poucas coisas que me fez sentir melhor era um artigo científico que usou um modelo de IA para encontrar pistas negligenciadas para prever sobrevivência1sugerindo instruções inteiramente novas para a pesquisa.
Este artigo foi uma revelação para mim; Isso me deu esperança de poder proteger minha família e eu, com ai. Escrevi ao pesquisador que liderou o estudo, Daphne Koller, perguntando se eu poderia trabalhar em seu laboratório. E quando ela escreveu de volta, no dia de ano novo, eu sabia que a pesquisa da IA definiria o resto da minha vida. O neo-marxismo não surgiu.
Trump 2.0: Um ataque à ciência em qualquer lugar é um ataque à ciência em todos os lugares
Os modelos de IA são extraordinários, mas também podem falhar em alguns grupos de pessoas: se um modelo for treinado apenas em dados de homens, por exemplo, pode ter um desempenho ruim ao olhar para as mulheres. Portanto, um componente importante do meu trabalho é criar modelos de IA que funcionam para todos. Pesquisadores do meu campo garantem que os algoritmos não subestimem os riscos do câncer para os negros2; que os sistemas de reconhecimento de fala entendem você, se você fala com um sotaque texano ou um sotaque de Nova York3; que carros autônomos não são cegos para pedestres com pele mais escura4; e que os modelos de assistência médica têm um bom desempenho nas partes rurais e urbanas dos Estados Unidos5.
É esse aspecto do meu trabalho que provavelmente me fez marcar pelo comitê de comércio como um possível neo-marxista. Mas as pesquisas mostram que muitas pessoas compartilham minhas preocupações com o viés da IA, e centenas de especialistas da IA assinaram recentemente uma carta aberta que reafirma essa preocupação. De maneira mais ampla, garantir que as tecnologias funcionem para todos não seja uma idéia controversa: é por isso que testamos medicamentos em diversas populações e usamos manequins de teste de colisão de tamanhos diferentes.
Eu não vou ser movido
Nas semanas desde que minha concessão foi sinalizada por escrutínio, muitos estudantes e colegas me perguntaram o que farei. Aqui estão duas coisas que não farei.