Os trabalhadores do setor público expressaram “profunda preocupação” depois que o Conselho da Cidade de Coventry assinou um contrato de inteligência artificial de 500.000 libras por ano com a empresa de tecnologia de dados dos EUA Palantir.
O acordo é o primeiro do gênero entre uma autoridade local do Reino Unido e a empresa de Denver, que fornece tecnologia às Forças de Defesa de Israel (IDF) e para ajudar os esforços de deportação em massa de Donald Trump.
O contrato segue um esquema piloto no departamento de serviços infantis do Conselho, incluindo o uso da IA para transcrição de notas de caso e para resumir os registros dos assistentes sociais. O Conselho planeja estender o sistema Palantir a processos para fornecer apoio a crianças com necessidades educacionais especiais.
A diretora executiva do conselho, Julie Nugent, disse que teve como objetivo “melhorar a integração de dados internos e a prestação de serviços” e “explorar as oportunidades transformadoras da inteligência artificial”.
A Palantir já possui vários contratos do setor público no Reino Unido, incluindo o fornecimento de IA para ajudar a combater o crime organizado em Leicestershire e a construção da nova plataforma de dados federada do NHS. Keir Starmer visitou o escritório da empresa em Washington em fevereiro com seu diretor executivo e co-fundador, Alex Karp. Palantir também foi co-fundado por Peter Thiel, o bilionário do PayPal que ajudou a financiar a eleição de Trump em 2016.
Os sindicatos que representam professores e outros trabalhadores do conselho disseram que o acordo levanta “questões éticas graves”, e o conselheiro independente Grace Lewis pediu que o conselho cancelasse o contrato imediatamente “e garantir que os £ 500.000 sejam gastos aqui em nossa comunidade”.
“É indefensável que o conselho tenha firmado um contrato com a Palantir, uma empresa infame por seu papel no fornecimento de armas e vigilância para as IDF e seu papel na privatização do NHS, em um momento em que o conselho fez cortes no setor público e voluntário”.
A Coventry começou recentemente a usar a IA da Palantir para exibir aplicativos para fundos de apoio doméstico. Um funcionário sênior disse em uma reunião de conselheiros em junho: “Existem muito poucas áreas que não se beneficiariam da inteligência artificial”. Um conselheiro da reunião respondeu: “Parece um irmão mais velho para mim”.
Em uma carta a Nugent, o secretário conjunto do ramo de Coventry da União Nacional da Educação, Nicky Downes, destacou o uso da IA de Palantir em sistemas de vigilância e armas e levantou preocupações sobre sua coleta e armazenamento de dados sobre cidadãos, em particular em relação à sua provisão de sistemas de policiamento preditivo.
“Existem algumas questões éticas sérias sobre as práticas comerciais da Palantir Foundry, que é uma subsidiária da Palantir”, disse Downes. “Há também perguntas relacionadas ao uso e fornecimento de dados pessoais. Questionamos o processo de compras, particularmente em relação a considerações éticas e avaliações de risco que o acompanham, que levaram à decisão de gastar 500.000 libras em um pacote de IA da Palantir Foundry”.
Após a promoção do boletim informativo
Nugent respondeu: “Nomeamos a Palantir por 12 meses para explorar as oportunidades transformadoras de inteligência artificial, executando prova de conceitos em várias de nossas áreas -chave. Isso criará nosso caso de negócios para investimentos futuros e nossa abordagem geral de IA. Entendemos que as implicações éticas da IA são de que o Conselho, por favor, o Conselho Robous.
Um porta -voz da Palantir disse: “Estamos entusiasmados em ajudar a Coventry City Council a aproveitar a IA para melhorar os serviços que eles prestam ao público. A tecnologia oferece um enorme potencial, como permitir que os assistentes sociais e os profissionais de necessidades educacionais especiais gastem menos tempo na documentação e mais tempo que apoiem diretamente as crianças que são vulneráveis ou tenham necessidades especiais.
Eles disseram que Palantir não era partidário e se envolveu com várias administrações do governo dos EUA desde que começou a trabalhar com o Departamento de Segurança Interna em 2010.
Um porta -voz do conselho disse que estava explorando como a IA poderia ajudar a melhorar os serviços e torná -los mais eficientes. “Como parte desta iniciativa, estamos avaliando uma variedade de soluções de IA e parceiros de tecnologia, incluindo Palantir, para apoiar nossos objetivos de IA … à medida que continuamos a avaliar o valor da IA para investimentos futuros, mantendo os padrões robustos de proteção de dados e governança continuarão sendo nossa principal prioridade.”
Ele disse que o contrato foi concedido de acordo com os procedimentos padrão de compras e atendeu aos seus “requisitos rigorosos de segurança e conformidade”.
Guia rápido
Entre em contato conosco sobre esta história
Mostrar
O melhor jornalismo de interesse público baseia-se em contas em primeira mão de pessoas que conhecem.
Se você tiver algo a compartilhar sobre esse assunto, entre em contato conosco usando os métodos a seguir.
Mensagens seguras no aplicativo Guardian
O aplicativo Guardian tem uma ferramenta para enviar dicas sobre histórias. As mensagens são criptografadas de ponta a ponta e ocultas dentro da atividade de rotina que todo aplicativo móvel Guardian realiza. Isso impede que um observador saiba que você está se comunicando conosco, muito menos o que está sendo dito.
Se você ainda não possui o aplicativo Guardian, faça o download (iOS/Android) e vá para o menu. Selecione ‘Mensagens seguras’.
Segurado, mensageiros instantâneos, email, telefone e postagem
Se você puder usar a rede Tor com segurança sem ser observado ou monitorado, poderá enviar mensagens e documentos para o Guardian por meio de nossa plataforma Securedrop.
Finalmente, nosso guia em theguardian.com/tips lista várias maneiras de nos contatar com segurança e discute os prós e contras de cada um.