Muitas pessoas temem que, se a inteligência de máquinas totalmente senciente existir, ela assumirá o mundo. A ameaça real, no entanto, é o risco de as empresas de tecnologia escravizar os robôs para impulsionar os lucros, a autora Martha Wells sugere em sua série de livros de futuros estabelecimentos The Murderbot Diaries. No mundo de Wells, as inteligências de máquinas habitam naves e bots, e as construções meio humanas, meia-máquinas, oferecem proteção aos seres humanos contra o perigo (na forma de “unidades de segurança”), bem como o prazer sexual (“unidades de conforto”). O personagem principal, uma unidade de segurança que secretamente se nomeia assassinato, consegue ganhar livre arbítrio, hackeando o módulo que sua empresa proprietária usa para escravizá -lo. Mas a maioria dos seres como se não tivesse tanta sorte.
No mundo do assassino, as empresas controlam quase tudo, competindo entre si para explorar planetas e mão -de -obra contratada. Os direitos dos seres humanos e robôs geralmente são pisoteados pela ganância capitalista-ecoando muitos dos pecados do mundo real atributos para as empresas de tecnologia atuais. Mas do lado de fora do território da empresa (chamado de “borda corporativa”) é um planeta independente chamado Preservation, uma sociedade relativamente livre e pacífica que o assassinato se encontra, contra todas as probabilidades, querendo proteger.
Agora, com a adaptação da TV Assassino No ar na Apple TV+, Wells está atingindo um público totalmente novo. O programa ganhou aclamação crítica (e, no momento da redação, uma classificação de público de 96 % no Rotten Tomatoes), e está constantemente classificado entre as séries mais assistidas do streamer. Foi recentemente renovado para uma segunda temporada. “Ainda estou meio impressionado com tudo o que está acontecendo com o show”, diz Wells. “É difícil de acreditar.”
Sobre apoiar o jornalismo científico
Se você está gostando deste artigo, considere apoiar nosso jornalismo premiado por assinando. Ao comprar uma assinatura, você está ajudando a garantir o futuro das histórias impactantes sobre as descobertas e idéias que moldam nosso mundo hoje.
Scientific American Falou com Wells sobre a diferença entre a IA de hoje e a verdadeira inteligência da máquina, a personalidade artificial e os robôs neurodivergentes.
(Uma transcrição editada da entrevista segue.)
A borda corporativa se sente tão incrivelmente presciente, talvez até mais agora do que quando você publicou o primeiro livro da série em 2017.
Sim, perturbadoramente. Essa tendência corporativa está percolando nos últimos 10 ou 15 anos – essa foi a direção em que estamos seguindo como sociedade. Uma vez que temos a idéia de as empresas terem personalidade, que uma corporação seja de alguma forma mais uma pessoa do que um indivíduo humano real, então realmente começa a mostrar o quão ruim pode ficar. Eu sinto que isso foi possível a qualquer momento; Não é apenas uma coisa mais distante. Mas retratá -lo no futuro distante torna menos horrível, eu acho. Isso permite que você pense sobre essas coisas sem sentir que está assistindo às notícias.
Atualmente, a idéia de ir para Marte está sendo pressionada por empresas privadas como uma resposta a todos os problemas. Mas (a implicação é que aqueles que vão) alguns bilionários e seus círculos e seus servos contratados, e isso de alguma forma será o paraíso para eles e apenas o contrário para todos os outros. Com as empresas assumindo o controle, é quando o lucro é o resultado final – fins lucrativos e engrandecimento pessoal de quem o está executando. Você não pode ter o tipo de progresso científico sério e cuidadoso que tivemos com a NASA.
Este mundo que você criou é tão interessante porque é uma distopia de certa forma. A borda da corporação certamente é. E, no entanto, a preservação é uma espécie de utopia. Você pensa neles nesses termos?
Na verdade, não, porque, por esse padrão, vivemos em uma distopia agora, e acho que o termo distopia está quase causando luz da realidade. É como se você chamar algo de distopia, não precisará se preocupar em consertá -la ou fazer qualquer coisa para tentar aliviar os problemas. Parece sem esperança. E se você tem algo que chama de utopia, é perfeito e não precisa pensar em problemas que ele possa ter ou como você pode torná -lo melhor para as pessoas.
Então, eu realmente não penso nesses termos porque eles se sentem muito limitados. E claramente na borda da corporação, ainda há pessoas que conseguem morar lá, principalmente bem, assim como fazemos aqui, agora. E na preservação, ainda existem pessoas que têm preconceitos e ainda têm algumas coisas em que trabalhar. Mas eles estão realmente trabalhando neles, o que o diferencia da borda da corporação.
Um dos temas centrais das histórias de assassinato é essa idéia de personalidade. Seus livros deixam muito claro que o assassinato, como um construto parcialmente humano, parte-artificial, é definitivamente uma pessoa. Com nossa tecnologia hoje, você acha que a inteligência artificial, grandes modelos de idiomas ou chatgpt devem ser considerados pessoas?
Bem, o assassino é uma inteligência de máquinas, e o chatgpt não é. É chamado de inteligência artificial como uma ferramenta de marketing, mas na verdade não é inteligência artificial. Um grande modelo de linguagem não é uma inteligência de máquina. Nós realmente não temos isso agora.
Temos algoritmos que podem ser muito poderosos e podem analisar grandes quantidades de dados. Mas eles não têm uma inteligência individual senciente neste momento. Ainda acho que estamos provavelmente anos e anos e anos de qualquer pessoa que crie uma inteligência artificial real.
Então o assassino é ficção, porque a inteligência da máquina agora é ficção.
Um grande modelo de linguagem que padrão corresponde a palavras, às vezes parece vagamente como se possa estar falando com você e, às vezes, parece que está apenas juntando padrões de maneiras que parecem realmente bizarras – isso não está nem perto da inteligência da máquina senciente.
Sinto -me realmente conflituoso porque muitas vezes me ressento da intrusão desses modelos e produtos de idiomas que estão sendo chamados de inteligência artificial na vida moderna hoje. E, no entanto, sinto tanto carinho e amor pelas inteligências artificiais fictícios.
Sim! Gostaria de saber se isso é uma coisa que permitiu que todo o golpe da IA obtenha uma posição tão importante. Porque tantas pessoas não gostam de tê-lo em suas coisas, sabendo que basicamente está pegando todos os seus dados, qualquer coisa em que você esteja trabalhando, tudo o que está escrevendo e colocando-o nessa rotatividade de um algoritmo de correspondência de padrões. Provavelmente, as inteligências artificiais e de máquinas fictícios ao longo dos anos têm uma espécie de pessoas convencidas de que isso é possível e que está acontecendo agora. As pessoas pensam que conversar com esses grandes modelos de idiomas está de alguma forma ajudando -as a ganhar sensibilidade ou aprender mais, quando realmente não é. É um desperdício do seu tempo.
Os seres humanos são realmente propensos a objetos antropomorfizantes, especialmente coisas como nosso laptop e telefone e todas essas coisas que respondem ao que fazemos. Eu acho que é apenas assado em nós, e está sendo aproveitado pelas empresas para tentar ganhar dinheiro, tirar empregos das pessoas e por suas próprias razões.
Meu personagem favorito da história é Art, que é uma nave espacial – ou seja, uma inteligência artificial que controla uma nave espacial. Como você pensou em diferenciar esse personagem da meia-máquina e meio humano assassina?
As consciências baseadas em navios existem em ficção há muito tempo, então não posso receber crédito por isso. Mas como o assassino depende do tecido neural humano, é por isso que está sujeito à ansiedade e depressão e outras coisas que os humanos têm. E a arte não é. A arte foi muito intencionalmente criada para trabalhar com os seres humanos e fazer parte de uma equipe, por isso nunca teve que lidar com muitas das coisas negativas que o assassinato tem. Alguém na Internet descreveu a arte como, basicamente, se Skynet era um acadêmico com uma família. Essa é uma das melhores descrições que acho que já vi.
Uma das razões pelas quais eu e tantas pessoas amamos esta série é o quão bem ela explora a neurodiversidade. Você tem essa diversidade de tipos de inteligências e eles são paralelos a muitos dos diferentes tipos de neurodiversidade que vemos entre os seres humanos no mundo real. Você estava pensando nisso dessa maneira quando projetou este universo?
Bem, ele me ensinou sobre minha própria neurodiversidade. Eu sabia que tinha problemas com ansiedade e coisas assim, mas não sabia que provavelmente tinha autismo. Eu não sabia muitas outras coisas até escrever essa história em particular e depois fazer as pessoas conversando comigo sobre isso. Eles são como: “Como você conseguiu retratar a neurodiversidade como essa?” E estou pensando: “É assim que meu cérebro funciona. É assim que as pessoas pensam”. Até o assassino, acho que não percebi até que ponto isso afeta minha escrita. Muitas pessoas me disseram que isso as ajudou a descobrir coisas sobre si mesmas e que foi bom ver um personagem que pensou e sentiu muitas das mesmas coisas que fizeram.
Você acha que a ficção científica é um gênero especialmente útil para explorar alguns desses aspectos da humanidade?
Pode ser. Não sei se sempre foi. A ficção de ciências é escrita por pessoas, e os aspectos bons e ruins de sua personalidade entram nela. Um gênero muda à medida que as pessoas que estão trabalhando em TI mudam. Então eu acho que já tem sido melhor ultimamente porque finalmente conseguimos mais mulheres e pessoas de cor e pessoas neurodivergentes e as vozes das pessoas com deficiência sendo ouvidas agora. E isso é um trabalho realmente emocionante. Ultimamente, muitas pessoas estão chamando de outra era de ouro da ficção científica.
Quando escrevi (o primeiro livro da série), Todos os sistemas vermelhos, Eu me coloquei muito nele. E acho que uma das razões pelas quais as pessoas se identificam com muitos aspectos diferentes é porque eu coloquei muita emoção genuína nela e fui muito específico sobre a maneira como o assassinato estava sentindo certas coisas e o que estava acontecendo com ela. Eu acho que houve uma falácia na ficção, particularmente ficção de gênero, que se você tornar um personagem muito genérico, isso permite que mais pessoas se identifiquem com ela. Mas isso não é verdade. Quanto mais específico alguém é sobre seus sentimentos e problemas e o que está acontecendo com eles, mais pessoas podem se identificar com isso devido a essa especificidade.