Uma sugestão
O ChatGPT disse: Uso indevido da inteligência artificial levanta alerta sobre transparência e ética no Judiciário
Procura-me, no Tribunal de Justiça, um colega. Comenta sobre um precedente de minha lavra, oriundo da 2ª Câmara Cível, que foi utilizado para fundamentar um dado julgamento. Estranhei, pois há décadas atuo apenas na 1ª Câmara Criminal. Foi quando deparei-me, perplexo, com um “julgado” do qual teria sido “relator”, que nunca existiu! Do número do processo ao meu nome, tudo “inventado” por uma certa “inteligência artificial” - e inserido em um respeitável repositório de jurisprudência de âmbito nacional.
Atuo em uma justiça quase que “por atacado”, baseada sobre índices de produtividade irreais. São centenas de processos julgados a cada sessão - quantos deles de forma correta, em respeito à consciência?
Já não se passa uma semana sem que encontremos fundamentos absurdos, seja em recursos ou sentenças, “inventados” por algoritmos. Alguns descobrimos. E os demais? E as partes prejudicadas? Ora, as partes…
Este quadro alastra-se perigosamente, dentro e fora do sistema judicial. Recordei-me de episódios como o do algoritmo “Horizon”, utilizado pelo governo inglês para fiscalizar setores da administração. Os relatórios que produzia eram tão elegantes e “lógicos” que questioná-los, no mundo real, era praticamente impossível. E eis que ao longo dos anos, enquanto não detectadas suas falhas, produziram injustiças daquelas que causam dor intensa - muitos inocentes foram demitidos, chegaram a ser presos, perderam a honra, a família, e até se suicidaram. Como prevenir-se a repetição de um quadro destes?
Registro que não sou um reacionário, um inimigo da tecnologia. Muito pelo contrário. Sou programador há quase 50 anos. Fui um dos pioneiros, a nível mundial, na concepção de programas capazes de redigir decisões. Tenho a exata noção do quanto a denominada “IA” ajudará a humanidade em um futuro não muito distante. Mas não posso concordar com o que tenho visto no tão circunspecto “mundo das leis”.
Daí sugerir, humildemente, dois princípios básicos. O primeiro deles: que os destinatários de cada texto produzido com a ajuda de algoritmos sejam claramente alertados sobre este aspecto. Vejo, com preocupação, que algoritmos já estão decidindo, de forma praticamente autônoma, sobre vasta parcela da vida - candidaturas a empregos, empréstimos bancários, processos judiciais, requerimentos administrativos etc. E quase sempre sem o conhecimento das pessoas cuja vida será impactada - que deveriam, pois, ser alertadas.
Daí decorreria a segunda norma básica: que os interessados tenham acesso à “memória do cálculo” que definiu a decisão. Que sejam relacionados, de forma absolutamente clara, todos os parâmetros utilizados e de que forma influíram no texto final. A partir daí será possível questionar-se o acerto da decisão - algo inviável na maioria dos cenários atuais. A lógica é simples: não pode persistir o atual sistema de decisão, opaco por natureza.
Penso que, a partir destas duas medidas, seguiríamos com maior confiança rumo a um futuro que se prenuncia fascinante!
MATÉRIAS RELACIONADAS:
Tags
Comentários