O Facebook e as três leis da robótica


 

1) O Facebook não pode ferir um humano ou permitir que um humano sofra algum mal;

2) o Facebook deve obedecer às ordens dos humanos, exceto nos casos em que tais ordens entrem em conflito com a primeira lei

3) o Facebook deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores.

E vamos em frente.

Isaac Asimov compilou na Três Leis da Robótica os mandamentos para uma era de inteligência artificial, colocando o bem-estar dos seres humanos em primeiro lugar. O texto correto é:

1) um robô não pode ferir um humano ou permitir que um humano sofra algum mal;
2) os robôs devem obedecer às ordens dos humanos, exceto nos casos em que tais ordens entrem em conflito com a primeira lei
3) um robô deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores.

Quando li pela primeira vez tais ordenamentos, décadas atrás, o efeito foi o mesmo de ver um filme de ficção científica: “Apenas entretenimento bem elaborado”, pensei.

Francamente, eu não imaginava que durante a minha existência eu iria me defrontar com tais questões. Eu pensava que os dilemas subjacentes ao desenvolvimento da robótica estavam reservados para gerações futuras, contemporâneas de carros voadores e viagens interplanetárias. Mas o futuro já chegou e suas encruzilhadas também.

Um carro-autômato do Uber atropelou e matou uma ciclista nos EUA; o Facebook, com seu algoritmo, personifica as corporações maléficas de almanaque usufruindo e (agora se sabe) disponibilizando para fins de interesse empresarial o colossal banco de dados que indivíduos de todo o planeta colocam à sua disposição.

A era do controle absoluto já começou e a interferência das máquinas sobre o destino dos seres humanos é uma realidade (principalmente se você é um pedestre ou ciclista no Arizona).

Que tipo de produto a soma desses fatores irá trazer? A evolução da civilização tem sido uma guerra contra os piores instintos de dominação e destruição que trazemos dentro de nós.

A humanidade venceu o totalitarismo de esquerda e de direita, mas absolutamente nada nos permite crer que o pior já passou. Ao contrário, a disponibilização de ferramentas tecnológicas mais e mais poderosas deixa ao controlador de tais sistemas a tentação do poder absoluto.

Como sempre, a imaginação do escritor chegou primeiro.Agora, cabe à humanidade a estipulação de normas concretas que regule o uso das tecnologias.

Precisamos de leis mundiais que as coloquem a serviço da civilização e dos ideais humanistas pelos quais nos batemos há séculos. Essa é a verdadeira batalha a ser travada.