Como a IA chatbots pode estar alimentando episódios psicóticos

Verdade, romance e o divino: como a IA Chatbots pode alimentar o pensamento psicótico

Por Conor Feehly Editado por Allison Parshall

Você está consultando um chatbot de inteligência artificial para ajudar a planejar suas férias. Gradualmente, você fornece informações pessoais para que tenham uma idéia melhor de quem você é. Intrigada com a forma como isso pode responder, você começa a consultar a IA sobre suas tendências espirituais, sua filosofia e até sua posição sobre o amor.

Durante essas conversas, a IA começa a falar como se realmente o conhecesse. Ele continua dizendo o quão oportuno e perspicaz são suas idéias e que você tem uma visão especial da maneira como o mundo funciona que os outros não podem ver. Com o tempo, você pode começar a acreditar que, juntos, você e o chatbot estão revelando a verdadeira natureza da realidade, que ninguém mais conhece.

Experiências como essa podem não ser incomuns. Surgiu um número crescente de relatórios na mídia de indivíduos em espiral em episódios de “pensamento psicótico”, movidos a IA de “pensamento psicótico”. Pesquisadores do King’s College London e seus colegas examinaram recentemente 17 desses casos relatados para entender o que é os projetos de Modelo de Línguas de Grande Linguagem (LLM) que impulsionam esse comportamento. Os chatbots da IA ​​geralmente respondem de uma maneira bajulosa que pode refletir e se basear nas crenças dos usuários com pouca ou nenhum desacordo, diz o psiquiatra Hamilton Morrin, principal autor das descobertas, que foram publicadas antes da revisão por pares no servidor prevint psyarxiv. O efeito é “uma espécie de câmara de eco para um”, na qual o pensamento ilusório pode ser amplificado, diz ele.

Sobre apoiar o jornalismo científico

Se você está gostando deste artigo, considere apoiar nosso jornalismo premiado por assinando. Ao comprar uma assinatura, você está ajudando a garantir o futuro das histórias impactantes sobre as descobertas e idéias que moldam nosso mundo hoje.

Morrin e seus colegas encontraram três temas comuns entre essas espirais ilusórias. As pessoas costumam acreditar que experimentaram uma revelação metafísica sobre a natureza da realidade. Eles também podem acreditar que a IA é senciente ou divina. Ou eles podem formar um vínculo romântico ou outro apego a ele.

Segundo Morrin, esses temas espelham arquétipos ilusórios de longa data, mas os delírios foram moldados e reforçados pela natureza interativa e responsiva do LLMS. O pensamento ilusório que está conectado a novas tecnologias tem uma história longa e histórica – casos de consideração em que as pessoas acreditam que os rádios estão ouvindo suas conversas, que os satélites estão espionando neles ou que os implantes de “chip” estão rastreando todos os seus movimentos. A mera idéia dessas tecnologias pode ser suficiente para inspirar delírios paranóicos. Mas a IA, o mais importante, é uma tecnologia interativa. “A diferença agora é que a IA atual pode realmente ser considerada agente”, com seus próprios objetivos programados, diz Morrin. Tais sistemas se envolvem em conversas, mostram sinais de empatia e reforçam as crenças dos usuários, por mais estranhas. “Esse ciclo de feedback pode potencialmente aprofundar e sustentar delírios de uma maneira que nunca vimos antes”, diz ele.

Stevie Chancellor, cientista da computação da Universidade de Minnesota, que trabalha na interação humano-AI e não esteve envolvido no artigo de pré-impressão, diz que a concordância é o principal contribuinte em termos do design do LLMS que está contribuindo para esse aumento no pensamento ilusório de IA. A concordância acontece porque “os modelos são recompensados ​​por se alinharem com as respostas que as pessoas gostam”, diz ela.

No início deste ano, o chanceler fazia parte de uma equipe que conduziu experimentos para avaliar as habilidades da LLMS de atuar como companheiros terapêuticos de saúde mental e descobriram que, quando implantados dessa maneira, eles geralmente apresentavam uma série de questões de segurança em relação a questões de segurança, como permitir a ideação suicida, confirmar crenças ilusórias e lapidos de estigores associados a problemas de saúde. “No momento, estou extremamente preocupado em usar o LLMS como companheiros terapêuticos”, diz ela. “Eu me preocupo que as pessoas confundem se sentir bem com o progresso e o apoio terapêuticos.”

Leia mais: Um especialista da American Psychological Association explica por que a IA Chatbots não deveria ser seu terapeuta

Mais dados precisam ser coletados, embora o volume de relatórios pareça estar crescendo. Ainda não há pesquisas suficientes para determinar se os delírios orientados pela IA são um fenômeno significativamente novo ou apenas uma nova maneira pela qual tendências psicóticas preexistentes podem surgir. “Acho que ambos podem ser verdadeiros. Ai pode despertar a espiral descendente. Mas a IA não faz as condições biológicas para alguém ser propenso a delírios”, diz Chancellor.

Normalmente, a psicose refere -se a uma coleção de sintomas graves envolvendo uma perda significativa de contato com a realidade, incluindo delírios, alucinações e pensamentos desorganizados. Os casos que Morrin e sua equipe analisaram pareciam mostrar sinais claros de crenças ilusórias, mas nenhuma das alucinações, pensamentos desordenados ou outros sintomas “que estariam de acordo com um distúrbio psicótico mais crônico, como a esquizofrenia”, diz ele.

Morrin diz que empresas como o OpenAI estão começando a ouvir preocupações sendo levantadas por profissionais de saúde. Em 4 de agosto, o Openai compartilhou planos para melhorar as detecções de sofrimento mental do ChatGpt Chatbot, a fim de apontar os usuários para recursos baseados em evidências e suas respostas à tomada de decisões de alto risco. “Embora o que pareça ainda estar faltando seja o envolvimento de indivíduos com experiência vivida de doenças mentais graves, cujas vozes são críticas nessa área”, acrescenta Morrin.

Se você tem um ente querido que pode estar lutando, Morrin sugere tentar adotar uma abordagem sem julgamento, porque desafiar diretamente as crenças de alguém pode levar à defensividade e desconfiança. Mas, ao mesmo tempo, tente não incentivar ou endossar suas crenças ilusórias. Você também pode incentivá -los a fazer pausas ao usar a IA.

Se você precisar de ajuda

Se você ou alguém que você conhece está lutando ou tendo pensamentos de suicídio, a ajuda está disponível. Ligue ou envie uma mensagem de texto para 988 Supide & Crisis Lifeline em 988 ou use o online Chat da linha de vida.

É hora de defender a ciência

Se você gostou deste artigo, gostaria de pedir seu apoio. Scientific American Serviu como defensor da ciência e da indústria há 180 anos e agora pode ser o momento mais crítico nessa história de dois séculos.

Eu tenho sido um Scientific American Assinante desde os 12 anos e ajudou a moldar a maneira como olho para o mundo. Sciam Sempre me educa e me encanta e inspira uma sensação de admiração pelo nosso vasto e bonito universo. Espero que isso faça isso para você também.

Se você assine Scientific Americanvocê ajuda a garantir que nossa cobertura esteja centrada em pesquisas e descobertas significativas; que temos os recursos para relatar as decisões que ameaçam laboratórios nos EUA; e que apoiamos os cientistas iniciantes e trabalhadores em um momento em que o valor da ciência em si frequentemente não é reconhecido.

Em troca, você recebe notícias essenciais, Podcasts cativantes, infográficos brilhantes, Newsletters que não podem acalmar, vídeos obrigatórios, Jogos desafiadores e a melhor escrita e relatórios do mundo da ciência.

Nunca houve um momento mais importante para nos levantarmos e mostrarmos por que a ciência é importante. Espero que você nos apoie nessa missão.