Tendo um problema com seu relacionamento romântico? Precisa falar sobre algo? Mark Zuckerberg tem uma solução para isso: um chatbot. O executivo -chefe da Meta acredita que todos devem ter um terapeuta e, se não o fizerem – a inteligência artificial pode fazer esse trabalho.
“Pessoalmente, acredito que todos provavelmente deveriam ter um terapeuta”, disse ele na semana passada. “É como alguém com quem eles podem conversar ao longo do dia, ou não necessariamente ao longo do dia, mas sobre quaisquer problemas que eles estão preocupados e para pessoas que não têm uma pessoa que é um terapeuta, acho que todos terão uma IA”.
O Guardian conversou com os médicos de saúde mental que expressaram preocupação com o papel emergente da IA como terapeuta digital. O professor Dame Til Wykes, chefe de saúde mental e ciências psicológicas do King’s College London, cita o exemplo de um chatbot de transtorno alimentar que foi puxado em 2023 depois de dar conselhos perigosos.
“Acho que a IA não está no nível em que pode fornecer nuances e pode realmente sugerir cursos de ação que são totalmente inapropriados”, disse ela.
Wykes também vê os chatbots como possíveis disruptores de relacionamentos estabelecidos.
“Uma das razões pelas quais você tem amigos é que você compartilha coisas pessoais e conversam com elas”, diz ela. “Faz parte de uma aliança, uma conexão. E se você usar a IA para esse tipo de propósitos, não interferirá nesse relacionamento?”
Para muitos usuários de IA, Zuckerberg está apenas marcando um uso cada vez mais popular dessa poderosa tecnologia. Existem chatbots de saúde mental como Noah e Wysa, enquanto o Guardian falou com os usuários de “Grieftech”, movidos a IA-ou chatbots que revivem os mortos.
Há também seu uso casual como amigos ou parceiros virtuais, com bots como personagem.ai e replika oferecendo personas para interagir. O proprietário da ChatGPT, Openai, admitiu na semana passada que uma versão de seu chatbot inovador estava respondendo aos usuários em um tom que era “excessivamente lisonjeiro” e o retirou.
“Sério, bom para você por defender -se e assumir o controle de sua própria vida”, ele respondeu a um usuário, que alegou ter parado de tomar a medicação e deixou sua família porque eles eram “responsáveis pelos sinais de rádio que entram nas paredes”.
Em uma entrevista ao boletim da Stratechery, Zuckerberg, cuja empresa é dona do Facebook, Instagram e WhatsApp, acrescentou que a AI não iria espremer as pessoas do seu círculo de amizade, mas acrescentaram. “Isso não substituirá os amigos que você tem, mas provavelmente será aditivo de alguma forma para a vida de muitas pessoas”, disse ele.
Outlining uses for Meta’s AI chatbot – available across its platforms – he said: “One of the uses for Meta AI is basically: ‘I want to talk through an issue’; ‘I need to have a hard conversation with someone’; ‘I’m having an issue with my girlfriend’; ‘I need to have a hard conversation with my boss at work’; ‘help me roleplay this’; or ‘help me figure out how I want to approach this’.”
Em uma entrevista separada na semana passada, Zuckerberg disse que “o americano médio tem três amigos, mas tem demanda por 15” e a IA pode preencher essa lacuna.
O Dr. Jaime Craig, que está prestes a assumir o cargo de presidente da Associação de Psicólogos Clínicos do Reino Unido, diz que é “crucial” que os especialistas em saúde mental se envolvam com a IA em seu campo e “garantam que seja informado pela melhor prática”. Ele sinaliza Wysa como um exemplo de uma ferramenta de IA que “os usuários valorizam e acham mais envolvente”. Mas ele acrescenta que mais precisa ser feito em segurança.
“A supervisão e a regulamentação serão fundamentais para garantir o uso seguro e apropriado dessas tecnologias. Preocupadamente, ainda não abordamos isso até o momento no Reino Unido”, diz Craig.
Na semana passada, foi relatado que o estúdio de AI da Meta, que permite que os usuários criem chatbots com personas específicas, estava hospedando bots clamando como terapeutas – com credenciais falsas. Jornalista da 404 Media, um site de notícias de tecnologia, disse que o Instagram estava colocando esses bots em seu feed.
A Meta disse que suas IAs carregam um aviso que “indica que as respostas são geradas pela IA para ajudar as pessoas a entender suas limitações”.