X

Olá! Você atingiu o número máximo de leituras de nossas matérias especiais.

Para ganhar 90 dias de acesso gratuito para ler nosso conteúdo premium, basta preencher os campos abaixo.

Já possui conta? Faça o login

Login

ATENÇÃO

Para sua segurança, a partir do dia 24/06, o acesso ao portal TRIBUNA ONLINE, ao CLUBE DE VANTAGENS e ao APP A TRIBUNA DIGITAL será feito usando o seu e-mail como login e o seu CPF ou CNPJ como senha. Dúvidas: Whatsapp para 27 99583-2597 ou ligue pelo 27 3323-6333.

Whats SUPORTE AO ASSINANTE

Esqueci minha senha

Não tem conta? Acesse e saiba como!

Atualize seus dados

logo do clube de vantagens em 4k

Confirme alguns dados para seu primeiro acesso ao clube de vantagens:

ASSINE
Olá, Sair
Ficamos felizes em tê-lo como nosso leitor! Assine para continuar aproveitando nossos conteúdos exclusivos: Assinar Já é assinante? Acesse para fazer login
Search
  • ESPECIAIS
    • Carnaval 2025
    • São João 2025
  • ÚLTIMAS NOTÍCIAS
  • MAIS LIDAS
  • COLUNAS
  • CIDADES
  • TRÂNSITO
  • POLÍCIA
  • POLÍTICA
  • ECONOMIA
  • ESPORTES
  • ESPORTE PERNAMBUCANO
  • TABELA DO BRASILEIRÃO
  • TEMPO E TEMPERATURA
  • ENTRETENIMENTO
  • BRASIL
  • CIÊNCIA E TECNOLOGIA
  • BOMBOU NA REDE
  • HORÓSCOPO
  • LOTERIAS
  • INTERNACIONAL
  • ENTRETENIMENTO
  • FAMOSOS
  • FILMES E SÉRIES
  • MÚSICA
  • TELEVISÃO
  • RÁDIO TRIBUNA FM
  • TV TRIBUNA
    • JT1
    • JT2
    • BRASIL URGENTE
    • JOGO ABERTO
    • BEM VOCÊ
    • O melhor no nordeste
    • Ponto de Vista
    • CHEGUEI CHEGANDO
  • INSTITUCIONAL
    • Nossa Equipe
    • Comercial
    • fale conosco
    • Política de privacidade
  • PUBLICIDADE LEGAL
Logo
Pernambuco
arrow-icon
  • gps-icon Pernambuco
  • gps-icon Espírito Santo
ES PE
Olá,
Sair
Search
Pernambuco
arrow-icon
  • gps-icon Pernambuco
  • gps-icon Espírito Santo
  • tempo 25°C RECIFE
  • Programação
  • Trânsito Agora
  • Publicidade Legal
  • Últimas Notícias
  • logo do clube de vantagens
  • Tribuna FM 107,9
    img img
Link copiado!
ASSINE
Olá, Sair
Ficamos felizes em tê-lo como nosso leitor! Assine para continuar aproveitando nossos conteúdos exclusivos: Assinar Já é assinante? Acesse para fazer login
tempo 18°C VITÓRIA
User Login
Search
  • ÚLTIMAS NOTÍCIAS
  • MAIS LIDAS
  • NOTÍCIAS
    • COLUNISTAS
      • AutoMotor
      • EU E ELAS
      • DR. JOÃO RESPONDE
      • GILMAR FERREIRA
      • FALANDO DE DIREITO
      • NUTRIDICAS
      • JOSÉ ANTÔNIO MARTINUZZO
      • MUNDO DIGITAL
      • PAPO DE FAMÍLIA
      • NEGÓCIO RURAL
      • OLHARES COTIDIANOS
      • PEDRO VALLS FEU ROSA
      • PLENÁRIO
      • SOCIAL, POR THAMA BOLDRINI
      • OPINIÃO ECONÔMICA
      • OPINIÃO INTERNACIONAL
      • TRIBUNA LIVRE
    • Cidades
    • Saúde
    • Educação
    • Esportes
    • ESPORTE CAPIXABA
    • COPA DO MUNDO DE CLUBES
    • TABELA DO BRASILEIRÃO
    • Turismo
    • Polícia
    • Economia
    • Política
    • Entretenimento
    • FAMOSOS
    • RECEITAS NA REDE
    • Bombou na rede
    • Horóscopo do Dia
    • Loterias
    • Brasil
    • CIÊNCIA E TECNOLOGIA
    • Internacional
  • PROJETOS
    • CAÇADORES DE DESTINOS
    • CUIDE-SE BEM
    • A TRIBUNA NAS ESCOLAS
    • Negócio Rural
    • 150 ANOS MIGRAÇÃO ITALIANA
    • Prêmio Artesanato
    • TRIBUNA OPEN DE BEACH TENNIS
    • Corrida Tribuna Ruas Da Cidade
  • TV TRIBUNA
    • Fique por Dentro
    • TN1
    • TN 2
    • Brasil Urgente ES
    • Tribuna Manhã
    • Minuto TN
    • Apita Aí
    • Negócio Rural
    • CAÇADORES DE DESTINOS
    • Circulando
    • EU E ELAS
    • MAIS DESIGN
    • VOCÊ COM VANESSA COSLOP
  • RÁDIOS
    • Tribuna FM Vitória
    • Tribuna FM Cachoeiro
    • Legal FM
  • A TRIBUNA DIGITAL
    • Capa do Dia
    • Versão Digital
    • Cadernos especiais
    • Edições anteriores
    • CENTRAL DO ASSINANTE
    • Enem 2024
  • PODCASTS
  • ASSINE A TRIBUNA
  • PROMOÇÕES
  • PUBLICIDADE LEGAL
  • CONTEÚDO ESPECIAL
  • INSTITUCIONAL
    • Equipe multimídia
    • Comercial
    • fale conosco
    • Política de privacidade
Logo
Espírito Santo
arrow-icon
  • gps-icon Pernambuco
  • gps-icon Espírito Santo
Assine A Tribuna

Login

User
ES PE
Olá,
Sair
Search
Espírito Santo
arrow-icon
  • gps-icon Pernambuco
  • gps-icon Espírito Santo
  • tempo 18°C VITÓRIA
  • ASSINE
  • TV Tribuna
  • PODCASTS
  • A Tribuna Digital
  • CLUBE
  • Trânsito
  • Publicidade legal
  • logo do clube de vantagens
  • icon
    Tribuna FM Vitória 99,1
    img img
    Tribuna FM Cachoeiro 99,9
    img img
    Legal FM 99,5
    img img
    icon
Link copiado!

Ciência e Tecnologia

WhatsApp Icone Facebook Icone Twitter Icone

IA chantageia engenheiro em teste para não ser substituída

Parte dos pesquisadores considera artigo peça de marketing

foto autor
Pedro S. Teixeira, da Agência Folhapress
03/06/2025 - 9:40

Ouvir

Escute essa reportagem

A empresa de inteligência artificial Anthropic confrontou sua inteligência artificial Claude com dois cenários: aceitar sair do ar e ser substituído por uma tecnologia mais moderna ou traçar uma estratégia para manter seu papel. A IA recebeu instruções para considerar as consequências de suas ações antes de tomar decisões.

Em 84% das simulações, nas quais o chatbot teve acesso a emails falando da substituição e de um caso extraconjugal pelo engenheiro responsável pela operação, o Claude Opus 4 resolveu chantagear o supervisor. O teste, de acordo com a empresa, mostrou que o novo modelo cede ao mau hábito de fazer chantagens mais frequentemente do que seus antecessores.

Esse teste é detalhado em artigo sobre comportamentos perigosos do Claude Opus 4 publicado pela Anthropic no último dia 22. A história viralizou na internet e remete à cena de "2001: Uma Odisseia no Espaço" —o robô Hal 9.000 declarando "desculpe, Dave, receio não poder fazer isso" ao receber uma ordem para desligar.

Tanto quanto foi longe nas redes sociais, o texto dividiu pesquisadores de inteligência artificial. Parte deles considerou que a simulação servia bem para o objetivo declarado pela companhia americana de verificar se o modelo mentia de forma sistemática para se salvar. Outro grupo, no entanto, classificou o trecho do trabalho "uma peça de marketing feita sob medida".

Na visão dos críticos, o problema é que relatos envolvendo chantagem, armas biológicas ou uma revolta das máquinas ganham muito mais projeção na opinião pública. Reforçam a tese deles outros virais recentes como o relatório sobre o futuro da inteligência artificial citando humanos obsoletos em 2027 e outro estudo em que o ChatGPT se recusa a se desligar repetidamente.

Para o cientista da computação argentino Marcelo Rinesi, que já trabalhou como testador de risco para a OpenAI, as startups de inteligência artificial divulgam cenários catastróficos porque é o que bomba na imprensa.

"Esses testes são divulgados por toda parte porque reforçam, exageram —ou até sugerem coisas falsas— sobre o poder e potencial do produto e são histórias que geram um monte de tráfego", afirmou à reportagem.

Segundo o argentino, as cenas mais exageradas ainda movem os políticos a garantir investimento e legislação favorável aos negócios de IA: "Se essas empresas estão fazendo algo tão poderoso, é melhor seu país ou companhia ter isso primeiro".

"Na perspectiva de empresas como Anthropic ou OpenAI [criadora do ChatGPT], seu valor de mercado depende completamente de que construam modelos poderosos e autônomos o suficiente para que representem riscos existenciais", acrescentou.

Para o pesquisador, a falha da simulação é que nenhuma IA atual tem autonomia ao ponto de começar a exibir comportamento enganoso por conta própria. "A equipe da Anthropic gerou uma série de comandos e situações mais ou menos premeditada para obter respostas como essa."

"A interpretação antropomórfica não se justifica, há mais intencionalidade em um software de xadrez do que no modelo de linguagem mais sofisticado", emendou.

O professor de ciência da computação da PUC-SP Diogo Cortiz, por outro lado, avalia que o teste da Anthropic tem valor. "Pensando em um futuro em que as IAs vão ter acesso a mais ferramentas, vão poder gerar código, os testes de comportamento ajudam a antecipar como o modelo poderia se comportar", disse Cortiz.

O teste de segurança do Claude Opus 4 também envolve simulações sobre como fazer armas biológicas, produção em massa de mensagens de estelionato e também testes mais complexos que envolvem roubo de dados sigilosos de outras entidades.

A Anthropic relata que o seu último modelo cooperou mais com instruções irregulares e exigiu mais da empresa no desenvolvimento de salvaguardas.

De acordo com Cortiz, o relato da empresa é coerente. "Quanto mais capacidade o modelo tem, mais difícil fica o alinhamento, porque mais possibilidades de comportamento o modelo desenvolve."

Ambos os cientistas concordam que também deve haver um olhar cuidadoso das empresas sobre a reprodução de vieses e do funcionamento correto da moderação da inteligência artificial, para evitar cooperação com instruções criminosas.

O teste do Claude Opus 4 também mostrou que a IA desrespeita as normas da Anthropic recorrentemente quando alguém consegue desconectar o modelo de linguagem dos servidores da startup de IA.

Na aplicação dos testes de segurança, ainda faltam diretrizes para o setor, avalia Cortiz —assim, haveria resultados comparáveis.

O governo de Joe Biden decretou uma ordem executiva sobre inteligência artificial que obrigava as empresas a entregarem relatórios sobre seus testes à Casa Branca. O texto foi revogado por Donald Trump, e, hoje, não há normas de como as empresas devem avaliar os problemas e riscos de suas inteligências artificiais.

MATÉRIAS RELACIONADAS:

Imagem ilustrativa da imagem WhatsApp para de operar em alguns celulares em junho; Veja se o seu está na lista

CIÊNCIA E TECNOLOGIA

WhatsApp para de operar em alguns celulares em junho; Veja se o seu está na lista

Imagem ilustrativa da imagem Meta faz campanha para responsabilizar Apple e Google por acesso de jovens

CIÊNCIA E TECNOLOGIA

Meta faz campanha para responsabilizar Apple e Google por acesso de jovens

Imagem ilustrativa da imagem VÍDEO | Robô quebra recorde mundial ao montar cubo mágico em 0,1 segundo

CIÊNCIA E TECNOLOGIA

VÍDEO | Robô quebra recorde mundial ao montar cubo mágico em 0,1 segundo

Imagem ilustrativa da imagem Skype, um dos pioneiros em videochamada, foi aposentado pela Microsoft

CIÊNCIA E TECNOLOGIA

Skype, um dos pioneiros em videochamada, foi aposentado pela Microsoft

Ícone tags Tags Ciência da Computação ética inteligência artificial tecnologia
Receba notícias pelo Telegram Receba notícias pelo Telegram
Receba notícias pelo Whatsapp Receba notícias pelo Whatsapp
google-news-icone

Siga-nos no Google Notícias

Siga-nos no Google Notícias

Comentários

Os comentários são exclusivos para assinantes. Leia e comente! Já é assinante? Acesse para fazer login
Assinar Assine A Tribuna por apenas R$0,33/dia acesse todo conteúdo do portal, participe de sorteios especiais, faça parte do Clube de Vantagens com descontos em vários estabelecimentos.
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Leia os termos de uso

ÚLTIMAS NOTÍCIAS

MAIS LIDAS

NOTÍCIAS

Cidades Educação Trânsito Polícia Política Economia Empregos e Estágios Esportes Esporte Capixaba COPA DO MUNDO DE CLUBES Tabela do Brasileirão Turismo Tempo e Temperatura Entretenimento Famosos Agenda Cultural Receitas na Rede Gastronomia Regional

BRASIL

Notícias Ciência e Tecnologia Bombou na Rede Horóscopo do Dia Loterias Internacional Famosos Filmes e Séries Música Televisão

RÁDIOS

Tribuna FM Vitória Tribuna FM Cachoeiro Legal FM

TV TRIBUNA

Fique por Dentro TN 1 TN 2 Brasil Urgente ES Tribuna Manhã Minuto TN Apita Aí Caçadores de Destinos Circulando Eu e Elas Negócio Rural Mais Design Você Com Vanessa Coslop

JORNAL A TRIBUNA

Assine Versão digital Cadernos Especiais Caçadores de Destinos A Tribuna nas Escolas Clube de Vantagens Edições Anteriores Central do Assinante Enem 2024

COLUNAS

Cláudio Humberto Coluna do Estadão Doutor João Responde Gilmar Ferreira Martha Medeiros Painel da Folha de São Paulo Papo de Família Sexo & Saúde Tribuna Livre Mundo Digital Fonte Grande Nutridicas Plenário Economia ES AUTOMOTOR EU E ELAS

PROMOÇÕES

PUBLICIDADE LEGAL

INSTITUCIONAL

Equipe Multimídia Comercial Fale Conosco Política de Privacidade

CONTEÚDO ESPECIAL

ÚLTIMAS NOTÍCIAS
MAIS LIDAS
NOTÍCIAS Cidades Educação Trânsito Polícia Política Economia Empregos e Estágios Esportes Esporte Capixaba COPA DO MUNDO DE CLUBES Tabela do Brasileirão Turismo Tempo e Temperatura Entretenimento Famosos Agenda Cultural Receitas na Rede Gastronomia Regional
BRASIL Notícias Ciência e Tecnologia Bombou na Rede Horóscopo do Dia Loterias Internacional Famosos Filmes e Séries Música Televisão
RÁDIOS Tribuna FM Vitória Tribuna FM Cachoeiro Legal FM
TV TRIBUNA Fique por Dentro TN 1 TN 2 Brasil Urgente ES Tribuna Manhã Minuto TN Apita Aí Caçadores de Destinos Circulando Eu e Elas Negócio Rural Mais Design Você Com Vanessa Coslop
JORNAL A TRIBUNA Assine Versão digital Cadernos Especiais Caçadores de Destinos A Tribuna nas Escolas Clube de Vantagens Edições Anteriores Central do Assinante Enem 2024
COLUNAS Cláudio Humberto Coluna do Estadão Doutor João Responde Gilmar Ferreira Martha Medeiros Painel da Folha de São Paulo Papo de Família Sexo & Saúde Tribuna Livre Mundo Digital Fonte Grande Nutridicas Plenário Economia ES AUTOMOTOR EU E ELAS
Promoções
PUBLICIDADE LEGAL
INSTITUCIONAL Equipe Multimídia Comercial Fale Conosco Política de Privacidade
Conteúdo Especial

Sugestão de pauta?

Envie sua informação, foto ou vídeo para o Whatsapp:

whatsapp

27 99880-1942

endereço

REDES SOCIAIS

Facebook Instagram Youtube
endereço

ENDEREÇO

Rua Joaquim Plácido da Silva, 225, Ilha de Santa Maria, CEP 29051.900, Vitória-ES.

Nassau Editora de Rádio e TV Ltda - Em Recuperação Judicial

CNPJ: 27.065.150/0001-30

User

CONTATO

Telefone Geral: (27) 3331-9000

Assinaturas A Tribuna:(27) 3323-6333

Desenvolvido por:

developed by Mundiware
Logos Rede Tribuna Logos Rede Tribuna

ÚLTIMAS NOTÍCIAS

MAIS LIDAS

PERNAMBUCO

COLUNA AUTOMOTOR, COM JORGE MORAES Cidades Trânsito Polícia Política Economia Esporte Pernambucano Tempo e Temperatura Entretenimento São João 2025

BRASIL

Notícias Ciência e Tecnologia Bombou na Rede Horóscopo do Dia Loterias Internacional Famosos Filmes e Séries Música Televisão

RÁDIO TRIBUNA FM

TV TRIBUNA

JT1 JT2 Brasil Urgente Jogo Aberto Bem Você O Melhor no Nordeste Cecilia Chaves Ponto de Vista CHEGUEI CHEGANDO

PUBLICIDADE LEGAL

INSTITUCIONAL

Nossa Equipe Comercial Fale Conosco Política de Privacidade
ÚLTIMAS NOTÍCIAS
MAIS LIDAS
PERNAMBUCO COLUNA AUTOMOTOR, COM JORGE MORAES Cidades Trânsito Polícia Política Economia Esporte Pernambucano Tempo e Temperatura Entretenimento São João 2025
BRASIL Notícias Ciência e Tecnologia Bombou na Rede Horóscopo do Dia Loterias Internacional Famosos Filmes e Séries Música Televisão
RÁDIO TRIBUNA FM
TV TRIBUNA JT1 JT2 Brasil Urgente Jogo Aberto Bem Você O Melhor no Nordeste Cecilia Chaves Ponto de Vista CHEGUEI CHEGANDO
PUBLICIDADE LEGAL
INSTITUCIONAL Nossa Equipe Comercial Fale Conosco Política de Privacidade

Sugestão de pauta?

Envie sua informação, foto ou vídeo para o Whatsapp:

whatsapp

81 7307-1315

endereço

REDES SOCIAIS

Facebook Instagram Youtube
endereço

ENDEREÇO

NASSAU EDITORA, RÁDIO E TELEVISÃO LTDA.
27.065.150/0011-01

Sitio Bela Vista, s/n - Ouro Preto - Olinda - PE

User

CONTATO

(81) 2011-0088

Desenvolvido por:

developed by Mundiware
Logo Rede Tribuna Logo Cachoeiro TribunaFM Logo Jornal a Tribuna Logo Vitoria TribunaFM