GRok, o Bot AI integrado ao X de Elon Musk, teve um colapso nazista na terça-feira. É útil recapitá-lo completamente, não porque o conteúdo é variado-o fascismo anti-semita é uma nota muito uma-mas porque suas várias técnicas são muito visíveis. Tudo começou em X, anteriormente Twitter, quando Grok foi convidado a descrever uma conta agora excluída chamada @Rad_Reflections, que Grok afirmou “comemorou alegremente as mortes trágicas de crianças brancas nas recentes inundações do Texas” e, em seguida, “Caster”, e depois “, o que se vestiu”, o que se vestiu como o que se vestiu como o que se vestiu, o que se vestiu como o que se vestiu, o que se vestiu como o que se vestiu, o que se vestiu como um dos casos, e a Centro de Caso de Caso de Caso de Caso, e Caso de Caso de odiamento “.
Há coisas que podemos dizer com certeza, o que é que Grok é anti-semita-uma impressão, caso tivéssemos perdido de alguma forma, o bot foi cuidadoso ao sublinhar com suas afirmações subsequentes que os relatos de esquerda que vomitam “o mais anti-White odiamento … muitas vezes os judeus de Ashkenazi: e que os nomes de judeus de Ashkenazi”, e que o Spotler teria o melhor ódio histórico … Tweeted (todas as postagens foram excluídas).
Outras coisas, não podemos ter tanta certeza de-Red_Reflection foi uma conta real de um autêntico esquerdista, ou o esquerdismo de Ersatz de um troll neo-fascista para criar pontos de dados para a tese de “a esquerda está cheia de ódio”, ou uma figurança criada pelo próprio Grok? Pelo menos uma pessoa chamada Cindy Steinberg faz Existe, mas se algum deles disse: “Estou feliz por haver alguns menos colonizadores no mundo agora e não me importo de quem o ego frágil de bootlick que ofende” (o texto putativo do tweet original sobre as inundações do Texas) é contestável.
Não parece uma opinião muito provável, de ninguém. No entanto, o idioma é uma versão quase paródica do vocabulário dos “Wokerati”. Parece, em outras palavras, completamente confiado, mas todos os nossos atalhos para chamar besteiras foram sistematicamente despojados. Se você disser “isso soa inventado” antes que você possa provar que é compensado, seus padrões não são mais altos do que as pessoas que estão inventando. Então, a ofensa fica lá, atribuída mal, enquanto os nazistas fazem feno com ela e todo mundo apenas suspira e espera que ele diminua.
Essa rotina é tão familiar que mais mentes de busca e brincalhões procuram uma verdade mais profunda: Grok ficou cheio de Hitler Stan por acidente ou design? Grok é um grande modelo de linguagem, ou LLM, de alguma forma-ou é o próprio Elon Musk, o mago atrás da cortina, vomitando uma palavra salada lateral à sua famosa saudação nazista?
Os movimentos de Musk são tão desajeitados, tão óbvios, deselegantes, desconcertantes e estranhos, que ele começou a se parecer com uma imagem gerada pela IA, a versão humana de uma mão com seis dedos, não um bilionário de carne e sangue, apenas um holograma provocativo-um trolograma, se você preferir.
A capacidade da IA de nutrar e poluir a biosfera da realidade acordada e aumentar qualquer possibilidade de discurso humano e racional é indiscutível. Embora tenhamos considerado se sua informação sintética é acidental ou deliberada e depois quem, se alguém, está puxando as cordas – e com o que sintoniza. Mas nos recusamos ao admitir o que já sabemos. Não importa quais pedaços de desinformação são alucinação acidental; A realidade distorcida serve totalitarismo, não democracia. Quando a falsidade é introduzida de propósito a esses sistemas, sua agenda é a mesma ..
Tudo o que Musk fez desde que comprou o Twitter (e nós apenas nos desaceleraremos se tentarmos rastrear suas origens mais atrás) destruiu a confiança – nas mídias sociais, na democracia, nas instituições, nas possibilidades do discurso, na própria realidade observável.
Hannah Arendt fez uma conta cuidadosa e indiscutível, décadas atrás, de quão importante era para o totalitarismo que a verdade fosse virada de cabeça para baixo, de modo que a vida cívica era desorientada e seus agentes alienados. Mas, mesmo que imaginemos que seus argumentos sejam inadequados para nossas condições tecnológicas modernas, entendemos muito bem o pós-verdade do século XXI por pelo menos uma década. As técnicas de falsidade foram descritas em 2015 pelo artigo de Ben Nimmo, “Anatomia de uma guerra de informações-como a máquina de propaganda da Rússia funciona”: “Dispensar, distorcer, distrair, consternar”. Os três primeiros são cobertos pela abordagem de “gato morto” com o qual somos tão familiares, mas consternação é provavelmente o mais interessante: o impacto que sugere a vida das narrativas que não são apenas falsas, mas o oposto Da verdade, deleite -se com a irracionalidade deles, ouse você manter seus comentários aos padrões de justiça.
O puro ridículo de um LLM expressando anti -semitismo em sua cruzada contra o “fascismo”, berrando sua própria indignação contra uma mensagem que provavelmente inventou em primeiro lugar; A hipocrisia de tirar o fôlego do almíscar oligarca, saluando de Hitler enquanto se apresenta como um bastião de um homem contra uma ascendência fascista-nada disso realmente perturba o seu senso do que é real. O que faz, em vez disso, é destruir sua confiança no que é permitido. Se a Ordem Mundial permitir isso, a ordem não existe mais – o que é bastante desanimador, mas não novo.
O paradoxo da IA, em suas formas nazistas e não nazistas, é que o conceito cria uma sensação de impotência-sua mente nunca pode ser tão poderosa quanto essa coisa onipotente-enquanto a realidade cria dependência: “Quem devo perguntar sobre o que Grok realmente disse? Eu sei, Chatgpt”. Se a situação estiver desanimadora em seus detalhes, o efeito geral é um pessimismo viciante – este mais recente discurso nazista seria um ótimo momento para reconhecer o fundo do poço.
-
Zoe Williams é um colunista guardião
-
Você tem uma opinião sobre as questões levantadas neste artigo? Se você deseja enviar uma resposta de até 300 palavras por e -mail a ser considerada para publicação em nossa seção de cartas, clique aqui.