Entre Sem Bater - Os Algoritmos

Yuval Noah Harari disse:

"... à medida que os algoritmos nos conhecem tão bem, governos autoritários Podem ganhar controle absoluto sobre seus cidadãos ..."(1)

Yuval Noah Harari, numa trilogia, aborda os aspectos que todos os seres humanos(2), atualmente, relegaram a um plano inferior. Alguns temas fogem da compreensão da maioria dos frequentadores de redes sociais, inclusive a compreensão sobre os algoritmos. Com toda a certeza, este filósofo judeu está em sintonia com os problemas da humanidade muito além de todos nós. Os aspectos que ele descreve e avalia, com análise do antes, do durante e do depois, estão nas pautas de quase todos no planeta, superficialmente. As abordagens de Harari vão muito além dos conceitos básicos de: Secularismo, Liberalismo, Algoritmos na história do Homo Sapiens.

ALGORITMOS

A princípio, as pessoas pensam que a palavra algoritmo tem sua aplicação a coisas relacionadas a programação de computadores. Assim como a maioria dos termos que se incorporam ao vocabulário destas pessoas, isso acontece pela maior exibição da palavra. Historiadores, contudo, divergem da origem e das corruptelas dos termos ao longo dos séculos. Com toda a certeza, o termo originou-se muitos séculos atrás e que falava sobre o assunto nem imaginava algoritmos em computadores(*).

Os algoritmos, grosso modo, são sequências de procedimentos que qualquer ser humano pode executar. Entretanto, a popularização de cérebros eletrônicos não prescindiu do termo e surgiu a conceituação que todos conhecem. Em outras palavras, qualquer processo que um humano pense, através de algoritmos e uma linguagem de programação, uma máquina executa.

Assim sendo, o poder dos algoritmos é, via de regra, o poder de um ser humano sobre uma grande massa de outros seres humanos.

Harari, em sua obra "21 lições para o Século XXI" (Spiegel & Grau 2018), deu a dica sobre o poder e o controle absoluto dos cidadãos.

PERGUNTAS E RESPOSTAS

Os algoritmos trabalham, na maioria dos casos, com perguntas e respostas(3) que devem servir para resolver problemas. A ideia de que uma pessoa precisa de uma máquina para resolver problemas atende a princípios gerais compreensíveis. Entretanto, quando um algoritmo atua para melhoria para alguns e sacrifício de outros, podemos dizer que existem desvios.

“Perguntas que você não pode responder são geralmente muito melhores para você do que respostas que você não pode questionar.”  Yuval Noah Harari, 21 Lições para o Século XXI (2018).

Saber fazer perguntas e ter a capacidade de questionar respostas, mesmo as que saem de um computador, é essencial. Analogamente, se perguntamos alguma coisa para uma ferramenta de IA regenerativa, e não temos a mínima noção da resposta, perdemos tempo. Por outro lado, se recebemos uma resposta ou solução, mas não podemos questioná-la, de nada adianta perguntar.

DITADURAS DOS ALGORITMOS

A frase-chave de Harari exige a ampliação de seu pensamento, numa forma semelhante ao funcionamento dos algoritmos. Existem um conjunto de entradas (inputs), o processamento via algoritmos e as saídas (outputs ou resultados). Desse modo, é bastante claro e transparente a história que estamos construindo.

"À medida que os algoritmos nos conhecem tão bem, governos autoritários podem ganhar controle absoluto sobre seus cidadãos, ainda mais do que na Alemanha nazista, e a resistência a tais regimes pode ser totalmente impossível. O regime não só saberá exatamente como você se sente, como também pode fazer você sentir o que quiser. O ditador pode não ser capaz de fornecer aos cidadãos assistência médica ou igualdade, mas pode fazê-los amá-lo e odiar seus oponentes. A democracia em sua forma atual não pode sobreviver à fusão da biotecnologia e da infotecnologia. Ou a democracia se reinventará com sucesso em uma forma radicalmente nova, ou os humanos passarão a viver em ´ditaduras digitais`". 21 Lições para o Século XXI (Spiegel & Grau 2018).

A ideia de Yuval Noah Harari é, inquestionavelmente, uma das previsões mais instigantes do autor sobre o futuro da humanidade. Ele sugere que a inteligência artificial (IA) e os algoritmos controlam vastas quantidades de informações que determinam decisões humanas. Sendo assim, algoritmos manipulam desejos, comportamentos e pensamentos sem a ciência das pessoas.

Contudo, será que essa visão se materializa exatamente como ele sugere? E mais, é possível questioná-la a partir da realidade atual de manipulação política e controle de massas através de algoritmos?

CONTROLE E MANIPULAÇÃO

Harari afirma que, em um mundo sob domínio dos algoritmos, as decisões mais íntimas e significativas de nossas vidas definem-se por sistemas. A base de informações que fornecemos, organiza nossos desejos, fraquezas e padrões de comportamento melhor do que nós mesmos. Isso determina que nossa autonomia e liberdade de escolha anulam-se por uma lógica impessoal que nos categoriza a partir da acumulação de dados.

O que Harari alerta, com razão, é que o controle do comportamento humano por algoritmos não acontece de maneira neutra. Aqueles que detêm o controle desses sistemas direcionam e manipulam, sem dúvida, nossas "preferências". Filmes de ficção traduzem esta percepção, muito antes da explosão das redes sociais e IA. Desse modo, inevitavelmente, somos partícipes e vítimas de um desequilíbrio de poder que tem controle de poucos.

Contudo, ao olharmos para a realidade contemporânea, vemos que a manipulação política através de algoritmos é algo já presente e não no futuro. Notadamente, no campo das redes sociais e campanhas políticas, o controle está nas mãos de poucos. Plataformas como Facebook, Instagram e X (antigo Twitter) operam a partir de algoritmos "inteligentes". Um algoritmo determina o que cada usuário vê e consome, moldando suas percepções da realidade e incentivando comportamentos específicos.

Vivemos tempos estranhos em que a manipulação de massas ficou muito mais fácil, com as pessoas cada vez mais dóceis.

MANIPULAÇÃO DE MASSAS

A manipulação de massas, no entanto, nem sempre funciona através de algoritmos com objetivos intrinsecamente maliciosos. Certamente, os interesses humanos por trás desses algoritmos é que utilizam seu potencial para controle de informações e direcionamento de narrativas.

A manipulação política das massas, especialmente em regimes autoritários ou contextos de extrema  polarização, se beneficia do processo. A enorme opacidade e falta de transparência com a qual esses algoritmos operam é a chave de tudo. E, como se não bastasse, vemos verdadeiros analfabetos digitais pedindo para ver código-fonte.

Desde a eleição de Donald Trump, e o escândalo da Cambridge Analytica, o cidadão pode comprovar que teve sua Privacidade Hackeada(4). Logo após, com o uso sistemático de desinformação nas eleições brasileiras de 2018 e 2022, a lógica dos algoritmos venceu. Enfim, servem a uma finalidade política estratégica: a de ampliar bolhas de informação, gerar clivagens sociais e intensificar polarizações.

Nesse sentido, a "ditadura" que Harari descreve não se limita apenas ao controle invisível que os algoritmos exercem sobre as preferências do consumidor. Ela se estende ao campo da política, onde o controle de narrativas e de percepções públicas instrumentaliza-se como uma forma de poder absoluto.

HUMANOS x HUMANOS

É aqui que podemos questionar o pensamento de Harari. Embora os algoritmos desempenhem um papel fundamental nesse processo, a raiz do problema não está nos próprios algoritmos. É provável que a causa esteja na forma de utilização dos algoritmos por interesses humanos.

A "ditadura" não é dos algoritmos sobre os humanos, mas de alguns humanos sobre outros humanos, e os algoritmos são a ferramenta de dominação. Empresas de tecnologia, partidos políticos e agentes estatais utilizam esses recursos digitais para manipular a opinião pública. Assim como publicitários utilizam o marketing para controlar e fabricar desejos, eles controlam o fluxo e o armazenamento de informações. Desta forma, potencializa-se todas as estratégias de controle social através de algoritmos e à distância.

Além disso, é preciso questionar até que ponto a humanidade está, de fato, cega ou inconsciente dessa manipulação. Pesquisas e discussões públicas sobre os perigos da influência algorítmica vêm crescendo nos últimos anos. A consciência coletiva sobre como nossas interações moldam-se por IA despontam em alguns guetos digitais. Contudo, esclarecer como essas tecnologias manipulam as pessoas é um passo crucial para mitigar seus impactos.

Movimentos regulatórios, como o Regulamento Geral sobre a Proteção de Dados (GDPR) na Europa - LGPD no Brasil, ganham visibilidade. Debates sobre a responsabilidade das Big Techs indicam uma resistência crescente, mas pequena frente a amplidão das mentes sob domínio.

SEM RESPOSTAS

Infelizmente, estamos num patamar que deveríamos questionar e fazer muitas perguntas. Entretanto, temos muitas perguntas inúteis muitas respostas imprestáveis.

Por fim, enquanto Harari pinta um cenário de um futuro distópico podemos dizer que o futuro é aqui e agora. Certamente, onde os humanos estão sob o controle de algoritmos, é preciso reconhecer que a sociedade permitiu. A consciência e o controle sobre a criação, implementação e regulação dessas tecnologias precisam surgir. Os fatores determinantes, que ainda estão ao alcance da humanidade, devem ser motivo de debate e crítica. Em última análise, o destino da "ditadura digital" dependerá da capacidade dos cidadãos e governos em agir. Neste caso, equilibrar a liberdade individual com a inevitável presença da inteligência artificial em nossas vidas é o básico.

Dessa forma, ao invés de simplesmente aceitar que os algoritmos irão dominar nosso futuro, precisamos focar em como podemos regulá-los. Devemos garantir que eles sirvam ao bem comum, e não à perpetuação de desigualdades ou regimes de controle.

É incrível que as pessoas questionem o código-fonte sem saber o que é e deixem suas vidas por conta de fake news de algoritmos proprietários. Estamos perdendo de goleada.

"Amanhã tem mais ..."

P. S.

(*) Programas de computadores agilizam a solução de problemas relacionam-se com a matemática e a lógica de funcionamento das coisas. Os algoritmos matemáticos processam instruções com velocidades impressionantes e exatidão em grau elevadíssimo.

(1) "Entre Sem Bater - Yuval Noah Harari - Os Algoritmos" em https://evandrooliveira.pro.br/wp/2024/09/10/entre-sem-bater-yuval-noah-harari-os-algoritmos/

(2) "Entre Sem Bater - Harari - Seres Humanos" em https://evandrooliveira.pro.br/wp/2023/04/23/entre-sem-bater-yuval-noah-harari-seres-humanos/

(3) "Entre Sem Bater - Rubem Alves - Perguntas e Respostas" em https://evandrooliveira.pro.br/wp/2023/03/07/entre-sem-bater-rubem-alves-perguntas-e-respostas/

(4) "Privacidade Hackeada" em https://evandrooliveira.pro.br/wp/2019/08/01/privacidade-hackeada/