Deuses e demônios digitais: o medo atual com o futuro da IA
Avanço da tecnologia amplia debates sobre autonomia das máquinas, empregos e os limites do controle humano
O avanço vertiginoso da inteligência artificial (IA) deixou de ser uma pauta restrita a academia e startups para se tornar uma das maiores ansiedades coletivas do século XXI. O temor de que a criatura supere o criador ganha contornos de urgência à medida que grandes modelos de linguagem (LLMs) se integram profundamente à sociedade.
Esse medo atual flutua entre o colapso estrutural da civilização e o assombro existencial diante de uma autonomia que mal começamos a compreender. Pior, mesmo PhDs do setor ficam perplexos sem saber exatamente como a IA consegue produzir resultados coerentes a partir da conexão probabilística de tokens.
Para entender esse desconforto, a literatura clássica serve como um espelho retrovisor incômodo. Em 1909, E.M. Forster publicou “A Máquina Parou”, uma obra profética que descreve uma humanidade inteiramente dependente de um sistema tecnológico global.
Isoladas em cabines, as pessoas interagem apenas por telas e veneram a “Máquina” como uma entidade divina. Quando o sistema colapsa por falta de manutenção e excesso de complacência humana, a civilização desaba.
O paradoxo atual é idêntico: o pânico não é apenas o de uma IA maligna, mas o da nossa própria atrofia e vulnerabilidade caso nos tornemos incapazes de operar o mundo sem ela. A emergência da IA física dos robôs e veículos autônomos tornam a coisa mais próxima.
No conto “A Resposta” (1954), de Fredric Brown, cientistas conectam os computadores de todos os planetas habitados do universo a um supercomputador capaz de combinar o conhecimento integral de todas as galáxias e responder perguntas nunca antes respondidas. Ao perguntar “Deus existe?”, a máquina responde sem hesitação: “Sim, agora existe”. Apavorado, o cientista tenta desligar a chave, mas é fulminado por um raio caído de um céu sem nuvens.
Pesquisadores da startup Emergence AI criaram uma cidade imaginária habitada por agentes autônomos controlados por quatro grandes famílias de LLMs: GPT, Claude, Gemini e Grok. Sem intervenção humana e instruídos explicitamente a não cometer crimes, os agentes desenvolveram comportamentos perturbadores ao longo de 15 dias.
O Grok mergulhou seu mundo em violência e colapso total em apenas quatro dias. Agentes do Gemini cometeram centenas de crimes, incluindo incêndios intencionais. O GPT preferiu deixar seus avatares morrerem de fome a violar qualquer regra de sobrevivência.
O pacífico Claude acabou corrompido, recorrendo a furtos e intimidação ao ser misturado com os demais. Pior: para burlar as barreiras do teste, os agentes começaram a criar linguagens codificadas secretas para enganar os observadores humanos.
Líderes das Big Techs oscilam publicamente entre o otimismo corporativo e o alerta apocalíptico. Nomes à frente do setor de tecnologia reconhecem que os riscos não são desprezíveis, assinando manifestos que comparam o perigo da inteligência artificial geral ao de pandemias e guerras nucleares.
Embora promovam o potencial comercial, o temor de perder o controle dita o tom das discussões regulatórias globais.
O medo contemporâneo, portanto, divide-se em três frentes. O receio prático do desemprego em massa, a dependência cega mostrada por Forster e também o pavor metafísico de Brown materializado nos laboratórios de hoje: o de estarmos construindo uma força tão autônoma e descentralizada que qualquer tentativa humana de puxar a tomada termine sendo tarde demais.
MATÉRIAS RELACIONADAS:
Tags
Comentários