Livro alerta sobre o perigo por trás da Inteligência Artificial
Doutor em Ciência da Computação, Guizzardi defende regras e educação para evitar ataques cibernéticos e falsificação de dados pela IA.
O receio de que a Inteligência Artificial ganhe vida e decida destruir a humanidade não está entre as preocupações do professor Giancarlo Guizzardi.
Os riscos que o inquietam já fazem parte da relação das pessoas com a tecnologia: ataques cibernéticos, falsificação de informações e dependência de sistemas capazes de simular uma conversa humana.
Doutor em Ciência da Computação e professor catedrático da Universidade de Twente, nos Países Baixos, ele defende que a discussão sobre IA saia dos cenários de ficção e se concentre nas escolhas de quem desenvolve e utiliza essas ferramentas.
No podcast Estúdio Tribuna Online, Guizzardi, autor do recém-lançado “Quem tem medo do robô mau?”, defende regras, mecanismos de proteção e educação para lidar com a tecnologia. A seguir, alguns trechos da entrevista.
A Tribuna - Ao lado do potencial da Inteligência Artificial, temos visto alertas sobre os seus riscos. Há motivos para temê-la?
Giancarlo Guizzardi - A estratégia que temos com a Inteligência Artificial agora é como dar um foguete para cada pessoa. Os chamados grandes modelos de linguagem são modelos enormes, treinados com toda a informação existente na internet e mais. Precisamos de um data center do tamanho de Vitória para treinar, de 150 mil chips de última geração, de uma usina nuclear própria para manter isso e de água muito pura para resfriar o sistema.
É um foguete que se propõe a fazer tudo e não faz nada com total segurança. A estratégia de dar um foguete para cada pessoa é completamente absurda. Temos tipos diferentes de IA, com capacidades e riscos diferentes. Há modelos pequenos, precisos, com muito menos risco e custo, no sentido abrangente: não só financeiro, mas ecológico também.
Não tenho nenhum medo do cenário Skynet, de uma coisa tomar vida e querer acabar com a humanidade. Mas tenho um bocado de preocupação com outros cenários, com vários riscos que essa tecnologia pode trazer.
- Quando as próprias empresas dizem que a IA pode acabar com o mundo, o que está por trás desses alertas?
Quando dizem 'tenho uma tecnologia que pode acabar com o mundo' equivale a dizer 'tenho uma tecnologia muito poderosa, que vale muito, que pode ser sua ou do seu concorrente.
O segundo ponto é: 'Essa tecnologia é tão poderosa que, se alguma coisa der errado, a culpa não é minha'. Eles induzem a gente a pensar nessa tecnologia como uma coisa que está acontecendo com a gente, e não como uma coisa que estamos criando. Recentemente, vimos casos de ataques cibernéticos envolvendo algumas dessas empresas.
Os agentes são sistemas artificiais que vão rodando em paralelo, como se tivéssemos vários ChatGPTs, e aí dizem: 'Esses agentes resolveram atacar essa empresa. Não fui eu.' Mas podemos olhar de outra maneira: se você pega 10 mil processos rodando em paralelo, com acesso à internet, sem um arcabouço de segurança em volta, isso vai acontecer.
É claro que você não falou que era para atacar, mas se colocou numa posição em que não cuidou para que isso não acontecesse. Outro ponto é que, quando se fala de uma tecnologia tão poderosa, cria-se a imagem de uma tecnologia alienígena.
Você pode dizer: 'Só a gente entende esse negócio. Então, a gente tem que se autorregular. O governo não vai conseguir regular porque não entende, a sociedade não entende, as empresas não entendem'. Assim, você pode levar a regulamentação para onde quiser.
- O risco maior está no mau uso da tecnologia e não em uma suposta vontade própria da IA? Como isso pode nos afetar?
Um risco, por exemplo, é o de ataque cibernético. O pessoal de computação resolveu adotar a estratégia de usar esses sistemas para gerar código. E a sociedade depende cada vez mais de software.
Temos um processo acelerado de transformação digital, em que o mundo opera sobre uma infraestrutura de software. Um banco é basicamente uma empresa de TI.
Tudo que existe na realidade social é ancorado em objetos digitais, em software. Essa infraestrutura controla a rede de energia e áreas estratégicas do país. Dinheiro era papel pintado. Esse papel contava porque, coletivamente, tínhamos essa interpretação.
O papel saiu, e o que temos agora? O registro em um banco de dados. Ter falhas de segurança nessa infraestrutura é completamente arriscado para a realidade social.
Você pode falsificar as informações e os fatos dessa realidade. Se há um registro no banco de dados dizendo que você deve um valor à Receita, você deve aquele valor à Receita. Se for alterado, como demonstrar que não é o caso? É um exemplo simples.
- As expectativas com a IA são tão elevadas que, no extremo, há até quem espere que ela nos traga a imortalidade. Como o senhor avalia essas visões futuristas?
A gente tem uma obsessão com isso, né? Eu acho que isso é uma das coisas que as empresas usam de vez em quando para falar: 'Olha, dá esse salvo-conduto para a gente fazer o que quiser, que vamos curar o câncer e trazer a imortalidade'. É assim: cura o câncer primeiro e depois a gente conversa, né?
Essa ficção de que a gente vai poder fazer um download do cérebro num cérebro artificial e viver para sempre é uma ideia completamente ficcional, que inclusive é baseada nessa metáfora de uma rede neural artificial com uma rede neural natural. É muito diferente.
- O senhor fala no seu livro sobre a necessidade de criar um sistema imunológico digital. Como seria isso?
Eu acho que tem vários componentes. Um deles é governança e regulamentação. Criar leis. Quer ver uma maneira fácil da gente não ter agentes atacando o site de outras empresas? Proibir o uso de agentes até que nós tenhamos segurança em torno dessa tecnologia. Pronto.
- É possível?
Deveria ser. A gente consegue regular todas as outras indústrias. Então, esse é o primeiro passo. Depois tem mecanismos de engenharia mesmo. Criar mecanismos de segurança, inclusive botando esses sistemas dentro de uma gaiola de proteção.
Eles não deveriam ter, de fato, autonomia para agir onde decidissem. Ela deve gerar um resultado que um ser humano vai usar. O ser humano tem que estar no processo e ter a responsabilidade de saber como usar a informação.
SERVIÇO
“Quem tem medo do robô mau?”
Reflexões sobre Inteligências Artificiais para inteligências naturais.
Autor: Giancarlo Guizzardi
Editora: Maquinaria Editorial
Páginas: 176
preço: R$ 46,84 (Amazon)
QUEM É
> Giancarlo Guizzardi é capixaba, doutor em Ciência da Computação, com pós-doutorado em Filosofia e Ciência da Cognição.
> É professor catedrático na Universidade de Twente, nos Países Baixos, onde dirige o Departamento de Pesquisa em Fundamentos das Ciências de Dados e da IA, Design de Sistemas Ciber-humanos e Segurança Cibernética.
> Sua abordagem combina Ciência da Computação, Filosofia, Ciência da Cognição, Linguística e Matemática, em percurso marcado por colaborações com organizações como a Nasa.
MATÉRIAS RELACIONADAS:
Tags
Comentários