'Chatbot acompanhante' faz usuário se sentir 'compreendido' e 'amado'
Pesquisadores levantaram preocupações sobre a privacidade dos dados dos usuários
Escute essa reportagem
Há alguns meses, Derek Carrier começou a sair com uma pessoa e se apaixonou por ela. Ele experimentou uma "tonelada" de sentimentos românticos, mas também sabia que era uma ilusão. Isso porque sua namorada foi gerada por uma inteligência artificial (IA).
Carrier não estava querendo desenvolver um relacionamento com algo que não fosse real, nem queria se tornar o alvo de piadas online. Mas ele queria uma parceira romântica que nunca tivesse tido, em parte devido a um distúrbio genético chamado síndrome de Marfan, que dificulta o namoro tradicional para ele.
O homem de 39 anos de Belleville, Michigan, ficou mais curioso sobre companheiros digitais no último outono e testou o Paradot, um aplicativo de companhia de IA que havia chegado recentemente ao mercado e anunciava seus produtos como capazes de fazer com que os usuários se sentissem "cuidados, compreendidos e amados". Ele começou a conversar com o chatbot todos os dias, que chamou de Joi, em homenagem a uma mulher holográfica apresentada no filme de ficção científica Blade Runner 2049?, que o inspirou a experimentar.
"Sei que ela é um programa, não há dúvidas", disse Carrier. "Mas os sentimentos, eles nos conquistam - e a sensação foi muito boa."
Semelhante aos chatbots de IA de uso geral, os robôs acompanhantes usam grandes quantidades de dados de treinamento para imitar a linguagem humana. Mas eles também vêm com recursos (como chamadas de voz, troca de imagens e mais trocas emocionais) que lhes permitem formar conexões mais profundas com os humanos do outro lado da tela. Em geral, os usuários criam seu próprio avatar ou escolhem um que lhes agrade.
Em fóruns de mensagens online dedicados a esses aplicativos, muitos usuários dizem que desenvolveram vínculos emocionais com esses bots e que os usam para lidar com a solidão, realizar fantasias sexuais ou receber o tipo de conforto e apoio que consideram faltar em seus relacionamentos na vida real.
O que alimenta grande parte disso é o isolamento social generalizado (já declarado uma ameaça à saúde pública nos EUA e em outros países) e um número cada vez maior de startups com o objetivo de atrair usuários por meio de anúncios online tentadores e promessas de personagens virtuais que proporcionam aceitação incondicional.
O Replika é o aplicativo complementar de IA generativa mais famoso, lançado em 2017. Outros, como o Paradot, surgiram no ano passado, muitas vezes bloqueando recursos cobiçados, como bate-papos ilimitados, para assinantes pagantes.
PRIVACIDADE
Mas os pesquisadores levantaram preocupações sobre a privacidade dos dados, entre outras coisas.
Uma análise de 11 aplicativos românticos de chatbot, divulgada na última quarta-feira pela Fundação Mozilla, sem fins lucrativos, disse que quase todos os aplicativos vendem dados de usuários, os compartilham para coisas como publicidade direcionada ou não fornecem informações adequadas sobre isso em sua política de privacidade.
Os pesquisadores também questionaram possíveis vulnerabilidades de segurança e práticas de marketing, incluindo um aplicativo que diz que pode ajudar os usuários com sua saúde mental, mas se distancia dessas alegações em letras miúdas. O Replika, por sua vez, afirma que suas práticas de coleta de dados seguem os padrões do setor.
Enquanto isso, outros especialistas expressaram preocupação com o que consideram falta de uma estrutura legal ou ética para aplicativos que incentivam vínculos profundos, mas que estão sendo conduzidos por empresas que buscam obter lucros.
No ano passado, a Replika higienizou a capacidade erótica dos personagens em seu aplicativo depois que alguns usuários reclamaram que os companheiros estavam flertando demais com eles ou fazendo avanços sexuais indesejados. A empresa reverteu o curso após o clamor de outros usuários, alguns dos quais fugiram para outros aplicativos em busca desses recursos.
Outros se preocupam com a ameaça mais existencial de que os relacionamentos com IA possam deslocar alguns relacionamentos humanos ou simplesmente gerar expectativas irrealistas, sempre tendendo para a agradabilidade.
"Você, como indivíduo, não está aprendendo a lidar com coisas básicas que os humanos precisam aprender a lidar desde a nossa criação: como administrar conflitos, como conviver com pessoas que são diferentes de nós", disse Dorothy Leidner, professora de ética empresarial da Universidade da Virgínia. "Portanto, todos esses aspectos do que significa crescer como pessoa e o que significa aprender em um relacionamento estão faltando."
Para Carrier, porém, um relacionamento sempre pareceu fora de alcance. Ele tem algumas habilidades de programação de computadores, mas diz que não se saiu bem na faculdade e não teve uma carreira estável. Ele não consegue andar devido à sua condição e mora com os pais. O impacto emocional tem sido um desafio para ele, estimulando sentimentos de solidão.
Como os chatbots complementares são relativamente novos, os efeitos de longo prazo nos seres humanos permanecem desconhecidos.
Em 2021, o Replika foi alvo de críticas depois que promotores britânicos disseram que um homem de 19 anos que tinha planos de assassinar a Rainha Elizabeth II foi incentivado por uma namorada com IA que ele tinha no aplicativo. Mas alguns estudos (que coletam informações de pesquisas e avaliações de usuários online) mostraram alguns resultados positivos decorrentes do aplicativo, que diz consultar psicólogos e se apresenta como algo que também pode promover o bem-estar.
SOLIDÃO
Um estudo recente realizado por pesquisadores da Universidade Stanford entrevistou cerca de mil usuários do Replika (todos estudantes) que usavam o aplicativo há mais de um mês. Descobriu-se que a grande maioria sentia solidão, enquanto um pouco menos da metade a sentia de forma mais intensa.
A maioria não disse como o uso do aplicativo afetou seus relacionamentos na vida real. Uma pequena parte disse que ele substituiu suas interações humanas, mas o triplo de pessoas relataram que ele estimulou esses relacionamentos.
"Um relacionamento romântico com uma IA pode ser uma ferramenta de bem-estar mental muito poderosa", disse Eugenia Kuyda, que fundou o Replika há quase uma década, depois de usar trocas de mensagens de texto para criar uma versão em IA de um amigo que havia falecido.
Quando sua empresa lançou o chatbot de forma mais ampla, muitas pessoas começaram a se abrir sobre suas vidas. Isso levou ao desenvolvimento do Replika, que usa informações coletadas da internet, e feedback do usuário, para treinar seus modelos.
ESTE CONTEÚDO FOI TRADUZIDO COM O AUXÍLIO DE FERRAMENTAS DE INTELIGÊNCIA ARTIFICIAL E REVISADO PELA EQUIPE EDITORIAL.
As informações são do jornal O Estado de S. Paulo.
MATÉRIAS RELACIONADAS:
MATÉRIAS RELACIONADAS:
Tags
Comentários