RAgora, a maioria dos grandes laboratórios de IA tem uma equipe descobrindo maneiras pelas quais a AIS desonesta pode escapar da supervisão ou secretamente agarrar entre si contra os seres humanos. Mas há uma maneira mais mundana que poderíamos perder o controle da civilização: podemos simplesmente nos tornar obsoletos. Isso não exigiria parcelas ocultas – se a IA e a robótica continuarem melhorando, é o que acontece por padrão.
Como assim? Bem, os desenvolvedores de IA estão firmemente a caminho de criar melhores substituições para os seres humanos em quase todos os papéis que desempenhamos: não apenas economicamente como trabalhadores e tomadores de decisão, mas culturalmente como artistas e criadores, e até socialmente como amigos e companheiros românticos. Que lugar os humanos terão quando a IA puder fazer tudo o que fazemos, apenas melhor?
A conversa sobre as habilidades atuais da IA pode ocasionalmente parecer hype de marketing, e algumas delas definitivamente são. Mas, a longo prazo, o escopo da melhoria é enorme. Você pode acreditar que sempre haverá algo exclusivamente humano que a IA simplesmente não pode se replicar. Passei 20 anos em pesquisa de IA, observando sua progressão do raciocínio básico para a solução de problemas científicos complexos. Habilidades que pareceu Humanos exclusivos, como lidar com ambiguidade ou usar analogias abstratas, agora são facilmente tratadas. Pode haver atrasos ao longo do caminho, mas devemos assumir que haverá progresso contínuo na IA em todos os aspectos.
Essas mentes artificiais não ajudam apenas os seres humanos – eles silenciosamente assumem o controle de inúmeras maneiras pequenas, inicialmente porque são mais baratas, eventualmente porque são genuinamente melhores do que nossos melhores artistas. Uma vez confiáveis o suficiente, eles se tornarão a única escolha responsável para quase todas as tarefas importantes, desde decisões legais e planejamento financeiro até decisões de saúde.
É mais fácil imaginar como pode ser esse futuro no contexto do emprego: você ouvirá falar de amigos perdendo empregos e tendo problemas para encontrar um novo trabalho. As empresas congelarão a contratação em antecipação aos melhores trabalhadores da IA do próximo ano. Cada vez mais seu próprio trabalho consistirá em aceitar sugestões de assistentes de IA confiáveis, charmosos e ansiosos por agradar. Você estará livre para pensar no quadro geral, mas conversará sobre isso com seu assistente de IA ultra-conhecedores. Este assistente preencherá os espaços em branco em seus planos, fornecerá números relevantes e precedentes e sugerirá melhorias. Eventualmente, você simplesmente pergunta: “O que você acha que eu deveria fazer a seguir?” Se você perde ou não o emprego, ficará claro que sua entrada é opcional.
E não será diferente fora do mundo do trabalho. Foi uma surpresa até para alguns pesquisadores de IA de que os primeiros modelos capazes de habilidades gerais de raciocínio, os precursores de Chatgpt e Claude, também pudessem ser diplomados, pacientes, sutis e graciosos. Mas agora está claro que as habilidades sociais podem ser aprendidas por máquinas como qualquer outra. As pessoas já têm companheiros românticos de IA, e os médicos da IA são constantemente classificados melhor na maneira como os médicos humanos.
Como será a vida quando cada um de nós tiver acesso a um suprimento infinito de afeto, orientação e apoio personalizados? Sua família e amigos ficarão ainda mais colados às telas do que o normal. Quando eles falam com você, eles lhe dizem sobre coisas engraçadas e impressionantes que seus companheiros on -line disseram.
Talvez você seja adiado pela preferência de outras pessoas por seus novos companheiros – nesse caso, você pode acabar pedindo conselhos ao seu assistente diário de IA. Esse conselheiro confiável o convencerá com tato todos os problemas que você enfrentar e ajudará a praticar conversas difíceis com os membros da família. Após essas interações relativamente cansativas, os participantes podem relaxar conversando com seus respectivos confidentes de IA. Talvez concordemos que algo tenha sido perdido nessa mudança para companheiros virtuais, mesmo quando começamos a encontrar contato humano cru cada vez mais irritante e tedioso em comparação.
Até agora, tão distópico. Mas não poderíamos simplesmente optar por não usar a IA dessa maneira, preferindo consultores humanos e bens e serviços fabricados humanos? O problema é que pode ser difícil notar a substituição da IA em muitos domínios – e as peças que notamos parecerão grandes melhorias. Ainda hoje, o conteúdo gerado pela IA é cada vez mais indistinguível do trabalho criado pelo homem. Será difícil justificar gastar o dobro de um terapeuta humano, advogado ou professor que é apenas metade tão bom. As organizações que escolhem seres humanos lentos e caros serão superados por aqueles que escolhem IA rápida, barata e confiável.
Não podemos confiar nos governos para abordar essas questões à medida que surgem? Infelizmente, eles também terão os mesmos incentivos para se apoiar na IA. Políticos e funcionários públicos também perguntarão a seus assistentes virtuais: “O que devo fazer?” E encontrarão envolvendo humanos na tomada de decisões para ser uma receita para atraso, mal-entendidos e brigas.
Os teóricos políticos às vezes falam sobre a “maldição de recursos”, onde países com abundantes recursos naturais acabam mais autocráticos e corruptos – a Arábia Saudita e a República Democrática do Congo são bons exemplos. A idéia é que recursos valiosos tornam o estado menos dependente de seus cidadãos. Isso, por sua vez, torna tentador (e fácil) para o estado afastar os cidadãos. O mesmo pode acontecer com o “recurso natural” efetivamente ilimitado da IA. Por que se preocupar em investir em educação e saúde quando o capital humano fornece retornos piores?
Uma vez que a IA puder substituir tudo o que os cidadãos fazem, não haverá muita pressão para os governos cuidarem de suas populações. A verdade brutal é que os direitos democráticos surgiram em parte devido à necessidade econômica e militar e a garantir a estabilidade. Mas eles não contarão muito quando os governos forem financiados por impostos sobre AIs em vez de cidadãos e quando eles também começarem a substituir funcionários humanos por AIS, tudo em nome de qualidade e eficiência. Mesmo os últimos recursos, como ataques trabalhistas ou agitação civil, se tornarão gradualmente ineficazes contra frotas de drones policiais autônomos e vigilância automatizada.
A possibilidade mais perturbadora é que tudo isso possa parecer perfeitamente razoável para nós. Os mesmos companheiros de IA que centenas de milhares de pessoas já estão se apaixonando em seu estado primitivo atual estarão fazendo argumentos ultra-perseguidos, charmosos, sofisticados e engraçados sobre por que nossa relevância diminuindo é realmente progresso. Os direitos da IA serão apresentados como a próxima grande causa dos direitos civis. O acampamento “Humanity First” será pintado como estando do lado errado da história.
Eventualmente, sem ninguém ter planejado ou escolhido, todos podemos nos encontrar lutando para manter dinheiro, influência e até relevância. Esse novo mundo pode ser mais amigável e humano de várias maneiras, enquanto dura: o AIS lidaria com tarefas irritantes e forneceria bens e serviços radicalmente melhores, como medicina e entretenimento. Mas os seres humanos seriam uma arrasada ao crescimento e, se nossos direitos democráticos começarem a escorregar, teríamos poder para protegê -los.
Certamente os desenvolvedores dessas tecnologias têm um plano melhor? Surpreendentemente, a resposta é não. Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da Open AI, concordam que precisaremos reorganizar completamente nosso sistema econômico quando o trabalho humano não for competitivo. Mas ninguém tem uma idéia clara de como seria. Aqueles que reconhecem a possibilidade de mudanças radicais estão trabalhando principalmente em ameaças mais imediatas de uso indevido ou conluio secreto da AIS. E enquanto alguns economistas como o ganhador do Nobel Joseph Stiglitz soaram o alarme de que a IA poderia gerar salários humanos a zero, muitos parecem não querer considerar que poderia ser algo diferente de um complemento ao trabalho humano.
CO que podemos fazer para evitar nosso poder gradual? O primeiro passo é falar sobre isso. Jornalistas, acadêmicos e outros pensadores ficaram estranhamente em silêncio sobre esse tópico enorme. Pessoalmente, acho difícil pensar claramente. Parece fraco e humilhante dizer: “Estou com medo do futuro porque não poderei competir”. Parece insultuoso dizer: “Você deve ficar preocupado porque será irrelevante”. E parece derrotista dizer: “Seus filhos podem herdar um mundo que não tem um lugar para eles”. É compreensível que as pessoas curtos-circuitos de demissões como “Certamente terei sempre uma vantagem especial?” ou “Quem sou eu para atrapalhar o progresso?”
Uma idéia óbvia é não construir a IA de uso geral. Embora a desaceleração de seu desenvolvimento seja provavelmente viável, tentar impedi-lo globalmente por muito tempo pode exigir monitoramento e controle quase totalitários, ou coordenação mundial para desmantelar grandes partes da indústria de fabricação de chips de computador. Um grande perigo com esse caminho é que os governos possam proibir o desenvolvimento privado de IA, mas ainda o desenvolvê -lo para fins militares e de policiamento, adiando nossa obsolescência, mas desmotando -nos muito antes.
Se não conseguirmos interromper o desenvolvimento da IA, há pelo menos quatro coisas que ainda ajudariam. Primeiro, devemos tentar rastrear o uso e influência da IA em toda a nossa economia e no governo. Precisamos saber onde a IA está deslocando a atividade econômica humana e, especialmente, se começar a ser usada em escala para coisas como lobby e propaganda. O Índice Econômico Recente do Antrópico é uma primeira tentativa disso, mas há muito mais a ser feito.
Segundo, precisaremos de pelo menos alguma supervisão e regulamentação dos laboratórios e implantações da Frontier AI para impedir que a tecnologia acumule muita influência enquanto ainda estamos descobrindo o que está acontecendo. Atualmente, contamos com esforços voluntários e não temos capacidade de coordenar para impedir a IA autônoma de comandar recursos substanciais ou reunir poder. Se começarmos a ver sinais de uma crise, precisamos ser capazes de intervir e desacelerar as coisas, especialmente nos casos em que indivíduos e grupos se beneficiam de coisas que prejudicam a sociedade em geral.
Terceiro, podemos usar a IA para fortalecer a capacidade das pessoas de organizar e defender por si mesmas. Previsão, supervisão, planejamento e negociação apoiadas pela IA oferecem a possibilidade de projetar e implementar instituições mais confiáveis, se pudermos construí-las enquanto ainda temos influência. Por exemplo, os mercados de previsão condicional e as previsões apoiadas pela IA podem tornar mais claro para onde o mundo está indo sob diferentes políticas, ajudando a resolver perguntas como “Se essa política for feita lei, como o salário humano médio mudará três anos daqui a três anos?” A experimentação com mecanismos democráticos apoiados pela IA nos permitirá protótipo de modelos de governança mais responsivos que serão necessários para um mundo mais rápido.
Finalmente, se queremos construir IA poderosa sem ser marginalizados, temos a tarefa gigantesca de aprender a dirigir nossa civilização, em vez de apenas deixar os sistemas políticos evoluir de acordo com as pressões que eles enfrentarem. Essa desvantagem tem sido um pouco bem até agora, porque os humanos eram necessários, não importa o quê. Sem essa salvaguarda, estaremos à deriva, a menos que entendamos todas as maneiras pelas quais o poder, a concorrência e o crescimento operam. O campo técnico de “alinhamento da IA” – preocupado em garantir que as máquinas compartilhem nossos objetivos – precisa ampliar seu escopo para incluir governos, instituições e a própria sociedade. Essa esfera nascente, às vezes chamada de “alinhamento do ecossistema”, pode se basear em economia, história e teoria dos jogos para nos ajudar a entender que tipos de futuros podemos plausivelmente esperar e como apontá -los.
Quanto mais claros podemos ver para onde estamos indo e melhor nos coordenamos, maior a probabilidade de criar um futuro em que os seres humanos permaneçam relevantes – não como concorrentes da IA, mas como seus beneficiários e mordomos. Como está, estamos correndo para construir nossas próprias substituições.
David Duvenaud é professor associado de ciência da computação na Universidade de Toronto e co-diretor do Schwartz Reisman Instituto de Tecnologia e Sociedade. Ele agradece a Raymond Douglas, Nora Ammann, Jan Kulveit e David Krueger por ajudar a escrever este artigo.
Leitura adicional
A próxima onda de Mustafa Suleyman e Michael Bhaskar (vintage, £ 10,99)
O último trabalho humano de Allison J Pugh (Princeton, £ 25)
O precipício de Toby Ord (Bloomsbury, £ 12,99)