EUNo conto de fadas alemão O pescador e sua esposa, um velho um dia pegam um peixe estranho: um solha falante. Acontece que um príncipe encantado está preso dentro deste peixe e que, portanto, pode conceder qualquer desejo. A esposa do homem, Ilsebill, está encantada e deseja coisas cada vez mais excessivas. Ela transforma sua cabana miserável em um castelo, mas isso não é suficiente; Eventualmente, ela quer se tornar o papa e, finalmente, Deus. Isso enfurece os elementos; O mar fica escuro e ela é transformada de volta em seu estado pobres original. A moral da história: não deseje nada a que você não tenha direito.
Várias variações deste motivo clássico de conto de fadas são conhecidas. Às vezes, os desejos não são tanto excessivos ou ofensivos para a ordem divina do mundo, mas simplesmente desajeitados ou contraditórios, como nos desejos ridículos de Charles Perrault. Ou, como na história de horror de 1902 da WW Jacobs, a pata do macaco, seus desejos prejudicam sem querer alguém que é realmente muito mais próximo deles do que o objeto de seu desejo.
Hoje, é claro, a maioria dos jovens cresce com um peixe encantado no bolso. Eles podem desejar que sua lição de casa seja feita e os peixes concedam seus desejos. Eles podem desejar ver qualquer tipo de ato sexual que se possa imaginar e (se trabalharem em controlos regionais de idade com uma VPN) será visível. Em breve eles poderão desejar filmes sobre um assunto de sua escolha e estes serão gerados em segundos. Eles desejam que já tivessem terminado o ensaio da universidade – e eis que está escrito.
Essa mudança na abordagem não apenas aumentará nosso relacionamento como consumidores das artes criativas, de conteúdo escrito, musical ou visual, mas também reconfigurará o que significa ser criativo e, portanto, o que significa ser humano. Eu posso imaginar que a maioria das pessoas em um futuro próximo poderá encarregar um representante de IA com todos os tipos de interações cansativas – negociando contratos em seu nome ou atuando como agente, recebendo e amortecendo críticas, coletando informações, pesquisando opiniões e assim por diante. E o mar nunca ficará escuro.
Por enquanto, os jovens Ilsebills sentados nas salas de aula da universidade ainda podem esperar ser multados quando o professor, que cresceu em uma era diferente, percebe que ela tem o peixe encantado para escrever mais um de seus ensaios. Mas isso durará apenas mais alguns anos, até que Ilsebill faça parte de uma maioria autoconfiante e a maioria dos professores cresceu como ilusões. Ilsebill deseja um namorado, um treinador espiritual, um terapeuta – e em um instante ela terá um. Com cada um desses companheiros, parecerá que Ilsebill os conheceu há anos, o que é literalmente verdadeiro.
Pode -se acusar Ilsebill de complicar assuntos quando, como seu antecessor mítico, ela um dia realmente quer se tornar papa e o faz imediatamente em seu pequeno mundo. Mas se alguém puder se tornar facilmente o papa, o apelo de ser o papa desaparece para a geração Ilsebill. Porque as coisas só se tornam interessantes e desejáveis quando exigem uma certa quantidade de resistência ou um obstáculo, a ser superado. Ilsebill, no entanto, só conhece esse tipo de resistência atraente do aprendizado por meio de promoção – por meio de desejos cada vez mais precisos.
Ela dedica a maior parte de sua energia na vida a ajustar o tom de seus resultados. Ela não terá adquirido seu próprio ouvido para o tom de uma peça de escrita, mas de avaliar a maneira como as outras pessoas ou a AIS reagem a um texto que ela enviou, ela saberá se o conteúdo é apropriado ou inapropriado. Dessa forma, ela aprende a fazer desejos cada vez mais credíveis. No passado, Ilsebill raramente conhecia pessoas que encontravam coisas que ela disse interessante ou notável. Hoje, porém, tudo o que ela discute com sua IA é considerado interessante e notável. Finalmente, alguém está ouvindo corretamente, da maneira que nenhum parceiro humano poderia fazê -lo incondicionalmente.
E se o ponto for alcançado, onde todo o desejo do desejo deixar Ilsebill se sentindo vazio? Que caminhos ainda estão abertos para ela então?
O primeiro é o caminho para a decadência. Conhecemos esse mecanismo de estudar pessoas muito ricas. No futuro, aqueles que têm dinheiro suficiente serão capazes de pagar terapeutas humanas ou visitar o cinema para ver filmes feitos com humanos reais. Recentemente, alguém em um fórum de IA sugeriu que, no futuro, deveríamos simplesmente fazer com que algumas IA produzissem massas de imagens de abuso sexual infantil, para que pelo menos nenhuma criança real fosse prejudicada em sua produção. Essa sugestão foi instantaneamente ridicularizada, porque os consumidores de imagens de abuso infantil não estão comprando nenhum estímulo visual, mas principalmente o certeza Que crianças de verdade foram torturadas. Eles insistem na proveniência credível do produto, sua “aura”, por assim dizer. Se Ilsebill tiver capital suficiente, ela será como eles.
O segundo caminho é o de pequenas comunidades separatistas que criam artificialmente dificuldades e obstáculos um para o outro, talvez no estilo de esportes à moda antiga ou clubes de caça, talvez também de maneira semelhante à seita. Eles se reúnem em segredo ou exclusivamente para um evento subterrâneo em algum porão, o que exigirá que eles façam fila. Não há nenhum objetivo senão o ato agonizante de se enfiar. Tive essa idéia do romance de Stanisław Lem, o Congresso Futurológico. Hoje, em 2025, a fila ainda é gratuita. As gerações posteriores podem muito bem se maravilhar com isso.
Após a promoção do boletim informativo
O terceiro caminho é o mais provável e o mais óbvio. Dentro de sua realização do World of Wish, Ilsebill descobrirá um princípio abrangente de que colora todos os seus desejos de novo, os pesam e lhes dá significado: culpa. É sabido que a culpa é o meio mais forte de ligar uma pessoa a um produto. Um produto que se ama, mas com vergonha de usar, cresce poderosamente na mente e se liga fortemente a uma personalidade, envolto em neuroses e virtudes substitutas da vida real para compensar a culpa cada vez maior.
Ilsebill naturalmente assume a enorme culpa ecológica do enorme desperdício de recursos causado pela IA. A principal culpa é transferida das corporações gigantes, das empresas totalmente perversas ou mesmo da interação de vários estados, direto para Ilsebill, e agora ela faz a coisa lógica de se restringir e punir cada vez mais na maneira como se refere à vida cotidiana. Todas as manhãs, ela acorda com a certeza de que todas as pequenas decisões, todos os menores desejos, danificam massivamente “o planeta”, “a sociedade” ou “o futuro”. Ela floresce em seu novo papel como Salvador, neste sistema de culpa indireta de mártys. Esse papel parece, não sem justificação, como uma batalha que será travada dentro dela por toda a eternidade. É o ingrediente mágico que pode restaurar à sua vida o sabor há muito acalmante de auto-sacrifício e contradição interior. Ilsebill não protesta contra o absurdo desperdício de recursos, mas reduz todas as suas liberdades em sua vida privada, como seu suprimento de nutrientes adequados, seu consumo de água, o número de crianças que ela tem e seu amplitude de movimento. No final, ela morre, como uma espécie de Cristo de empresas, e leva todos os seus pecados ao seu túmulo.
A razão pela qual tantos contos de fadas europeus alertaram contra desejos imprudentes e ignorantes foi porque, como a maioria das grandes narrativas complexas produzidas coletivamente, seu tema básico é os indivíduos que chegam à maioridade. Como uma pessoa cresce, como encontra seu lugar na vida, o que deve passar para a próxima geração, todas essas perguntas. Ilsebill, no entanto, pelo menos neste último cenário, não tem mais a liberdade de responder a nenhuma dessas perguntas sozinha. Tudo será decidido por ela.