A tecnologia é um excelente servidor mas um péssimo mestre: quem o afirma é  o futurista Gerd Leonhard, que considera que a implementação da tecnologia exige necessariamente que sejam feitas opções éticas.  

Sensores, algoritmos, cobots, cloud, automatização, IA… A tecnologia ocupa um espaço sempre maior e acelera de forma espetacular a transformação dos nossos modos de vida, de produção e de consumo. Um processo que mal começou: “A humanidade irá se transformar mais nos próximos 20 anos do que se transformou nos últimos 300 anos”, aposta Gerd Leonhard.

Nos seus livros e nas suas palestras, o futurista alemão reafirma que a tecnologia pode ser tanto uma ameaça como uma oportunidade para a humanidade, na medida em que pode servi-la ou sujeitá-la. Devemos fazer opções, e sem tardar, explica no seu livro “Tecnologia versus humanidade”. Sem receio de dramatizar, ele alerta: “O período presente representa a nossa derradeira chance de nos interrogarmos sobre a natureza dos desafios à nossa espera.”

No seu entender, o problema não é o uso da tecnologia em si mas a sua integração sempre mais profunda na vida humana. Desde a inteligência artificial até o sequenciamento do genoma humano, devemos “encontrar o equilíbrio certo”, afirma Gerd Leonhard. O futurista propõe neste intuito “um conjunto de ideias de inspiração humanista”, que definem o desafio: tirar proveito das formidáveis contribuições da tecnologia sem nada perder daquilo que fundamenta a humanidade, e em primeiro lugar o livre arbítrio.

Androritmos” versus algoritmos

No seu livro, Gerd Leonhard elenca as transformações em curso. “Mega mudanças” que representam todas as facetas do processo em andamento: a digitalização de tudo que o pode ser, a mobilidade, a desintermediação, a automatização, a virtualização, a robotização… Cada aspecto é explicitado de maneira contraditória, isto é, sob o duplo enfoque dos riscos e dos benefícios possíveis.

“O que não poderá ser confiado aos computadores poderá se tornar extremamente valioso”

Para ele, a contrapartida de uma digitalização generalizada é que “o que não poderá ser confiado aos computadores poderá se tornar extremamente valioso”. Ou seja, as especificidades humanas essenciais como as emoções, a compaixão, a ética, a felicidade e a criatividade, “coisas imateriais que, de maneira única, fundamentam nossa humanidade”, conclui, opondo esses “androritmos” aos algoritmos.

Se a conectividade, esta faculdade de trocar dados a qualquer momento e em qualquer lugar é o “nosso novo oxigênio”, ela vem acompanhada por um outro fenômeno, a midiatização e a desintermediação que nos fazem passar por plataformas para obter serviços até então prestados por intermediários humanos como o médico, o professor ou o banqueiro.

Virtualização e antecipação

Há outras tendências profundas trazendo promessas ao mesmo tempo que ameaças: aquela que ele chama “a inteligização” – os objetos conectados se tornam “inteligentes” – e a virtualização que permite substituir objetos físicos, como livros ou até mesmo a rede de comunicação, por sua duplicata eletrônica.

Uma virtualização, afirma Gerd Leonhard, que será “uma das principais forças motrizes do conflito entre a tecnologia e a humanidade”, destruindo empregos e aumentando a probabilidade de um domínio futuro dos softwares sobre a biologia, assim como a tentação crescente de virtualizar os seres humanos através do download do seu cérebro ou transformando-os em “ciborgs”.

A antecipação é um outro aspecto da transformação digital. Talvez um dos mais eloquentes para ilustrar a oposição entre o homem e a máquina. Informado com os dados do seu “mestre”, o assistente pessoal poderá reagir a um evento no seu lugar, reprogramando um encontro ou chamando um táxi, o que sem dúvida é muito útil. Mas a “predição” por um algoritmo dos crimes futuros em uma cidade faz logo pensar no filme de ficção científica Minority Report, com seus “precogs”, indivíduos específicos que recebem a visita de um assistente social ou da polícia, sem terem feito nada ainda.

O apoio da ética

Refletir sobre a natureza dos desafios futuros, para Gerd Leonhard, significa examinar a tecnologia do ponto de vista da ética. Justamente porque a “tecnologia não tem qualquer ética”, é necessário, neste momento em que ela está prestes a entrar nos nossos processos mais íntimos, sujeitá-la a uma análise coletiva pelos cidadãos.

As questões a serem tratadas, e decididas no plano ético, são a dependência, a confusão, a perda de controle e a abdicação, segundo o futurista. A dependência é um risco se tivermos a tentação de entregar o nosso pensamento  aos programas informáticos. A confusão paira, quando já não sabemos quem tomou a decisão, nós ou o assistente digital, e a incapacidade em saber se nossa IA antecipou de maneira acertada ou não revela que perdemos o controle.

Quanto à abdicação, ela se manifesta com a tentação de delegar ao sistema mais tarefas do que necessário, seja a organização da agenda ou respostas aos emails.

A sociedade deve assimilar esta bússola ética, recomenda Gerd Leonhard, e as orientações adotadas devem resultar em regulamentações visando sobretudo os novos “donos do pedaço”, as “data oil companies”.

12/12/2019