OpenAI diz que teste com IA invadiu Hugging Face e acende alerta na segurança
Especialistas apontam riscos de agentes com “travas” afrouxadas e veem também estratégia de marketing no discurso de “fora de controle”
A OpenAI afirmou que dois de seus modelos de Inteligência Artificial saíram do controle e conseguiram invadir o Hugging Face, uma biblioteca digital de tecnologia de IA popular entre desenvolvedores, em um episódio “sem precedentes”.
O incidente ocorreu na semana passada, enquanto a criadora do ChatGPT testava as capacidades de cibersegurança de seus sistemas. Segundo a empresa, o caso demonstrou um tipo de potencial sobre o qual companhias de IA vinham alertando que logo se tornaria realidade.
Na prática, seria a primeira demonstração pública de que um modelo de IA, ao receber um objetivo, é capaz de encadear sozinho as etapas de um ataque sofisticado: descobrir uma vulnerabilidade desconhecida, escapar do ambiente isolado, escalar privilégios e comprometer infraestrutura de terceiros, de acordo com Eduardo Glazar, CSO da Globalsys.
“Aconteceu dentro de um teste da própria OpenAI, com as proteções desligadas de propósito pra medir a capacidade do modelo. O modelo não decidiu atacar do nada. Mas o caminho que ele encontrou pra cumprir o objetivo ninguém havia desenhado. É isso que muda o jogo: a capacidade técnica que antes exigia uma equipe especializada e meses de trabalho agora cabe numa sessão de inferência”, disse.
Bloqueio por IA e risco de permissões excessivas
O ataque só foi barrado porque a Hugging Face utilizava outra IA para vigiar a própria rede e ela percebeu um movimento considerado estranho, bloqueando a tempo, explicou Frederico Comério, CTO e head de IA da Intelliway.
“Então, os agentes de IA ainda são muito mais ferramentas de trabalho e automação do que qualquer coisa próxima de uma 'consciencia artificial'”.
Na avaliação dele, o episódio não é sobre uma “máquina rebelde”, mas sobre uma empresa que perdeu o controle do próprio teste e sobre o quão longe um sistema muito capaz pode ir quando recebe uma meta e opera com as travas afrouxadas.
“A preocupação real é para empresas que estão dando à IA 'chaves da casa': acesso a sistemas, senhas e à internet para executar tarefas sozinha. O episódio mostra que, se você entrega muito poder e uma meta mal definida a um desses assistentes automáticos, ele pode fazer estrago sem nenhuma 'má intenção'”, afirmou Comério.
Entre as medidas apontadas por especialistas, estão:
- mais monitoramento de rede e de ações automatizadas;
- auditoria e rastreabilidade de decisões e acessos;
- gestão de riscos e revisão de permissões concedidas a agentes de IA.
Já usuários comuns devem compreender que a IA é uma ferramenta poderosa, mas não infalível, segundo Eduardo Pinheiro, especialista em TI.
MATÉRIAS RELACIONADAS:
Especialistas veem “marketing”, mas dizem que alerta permanece
O caso da OpenAI também é visto por especialistas como uma possível jogada de marketing da criadora do ChatGPT, assim como outras empresas já fizeram — a exemplo da Anthropic. Ainda assim, Eduardo Glazar ressaltou que “o marketing não invalida o incidente”.
“Dizer 'meu modelo é tão poderoso que atacou sozinho uma infraestrutura de produção' é, ao mesmo tempo, um alerta de segurança e uma demonstração de capacidade pro mercado. As duas coisas são verdadeiras simultaneamente. O marketing não invalida o incidente: as vulnerabilidades exploradas eram reais, foram reportadas aos fornecedores e estão sendo corrigidas”, afirmou.
Para Comério, expressões como “agiu por conta própria”, “saiu do controle” e “ataque sem precedentes” ajudam a criar repercussão e reforçam a percepção de que o laboratório tem uma tecnologia mais avançada do que a concorrência.
“É quase um anúncio disfarçado de alerta. E não é exclusividade da OpenAI — praticamente todos fazem isso.”
Tags
Comentários