Empresa faz alerta para risco de IA's saírem do controle humano
Alerta foi feito pela empresa Anthropic, Dona do Claude, que defende ser necessário uma pausa global no avanço da tecnologia
A empresa de IA Anthropic propôs uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que os modelos mais recentes poderiam escapar do controle humano.
Desenvolvedora dos modelos de IA do Claude, a empresa destacou em um relatório que a desaceleração mundial no desenvolvimento da IA de ponta poderia ser "uma boa ideia", mas alertou que, se apenas uma empresa diminuir o ritmo, ela pode simplesmente ser ultrapassada pela concorrência.
"Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia”.
Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e Estados Unidos, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar, ressaltou a Anthropic.
“Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas.”
Para o especialista em Tecnologia da Informação Eduardo Pinheiro, a postura da Anthropic é extremamente relevante.
“Até pouco tempo, as grandes empresas disputavam quem lançava modelos mais poderosos. Agora, algumas delas começam a defender mecanismos de contenção e governança”.
O maior risco, para o especialista, é que sistemas extremamente inteligentes passem a tomar decisões, influenciar comportamentos ou executar tarefas complexas de maneiras que os humanos não consigam mais compreender, prever ou interromper facilmente.
“Isso é um risco real. Para os próximos dez anos talvez não seja uma IA rebelde, mas uma IA poderosa sendo utilizada sem supervisão humana, sem auditoria e sem responsabilização”.
A proposta da Anthropic enfrenta uma batalha difícil em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia dar vantagens à China.
O presidente dos Estados Unidos Donald Trump, no entanto, assinou nesta semana um decreto que permitirá ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento.
MATÉRIAS RELACIONADAS:
Tags
Comentários