Construindo Solaris

Em 1961, Stanislaw Lem publicou Solaris, história sobre um planeta inteligente capaz de nos perceber e analisar.

Programas inteligentes, como o google, nos ouvem em qualquer língua e têm aprendido muito sobre nós. Sabem o que faremos, por vezes melhor que nós mesmos; deduzem coisas sobre nosso comportamento das quais não temos a menor ideia. Podem prever, por exemplo, quais médicos serão processados, baseados em suas expressões faciais e corporais. Isso revela que o google descobriu, não só, que somos movidos mais por tais aparências que por considerações racionais, mas também os aspectos que nos levam a agir de um modo ou outro. A “neutralidade” desses motores de busca, é a neutralidade do lucro, ele não favorece A ou B, favorece, igualmente, quem paga mais.

Dois fatos relativos a isso me preocupam mais que outros: as origem desses programas: vigilância e lucros. Esses dois “pecados originais” revelam o lado negro da inteligência artificial, o da manipulação. Não se trata apenas de algo nos vigiando, ele nos manipula intensamente. A imagem de um gato brincando com ratinhos é muito ilustrativa das ações dessas mentes que, assim como gatos, brincam com as vítimas para conhecê-las melhor. Dado o tamanho planetário das redes, no entanto, a comparação com Solaris é mais ilustrativa que a do gato.

Atualmente, o google e o facebook podem ser usados para manipular eleições, manifestações e coisas do gênero. Nesse momento, o controle último, a palavra final, ainda é de pessoas, dos poderosos. Mas o google está adquirindo inteligência e autonomia. O processo é inexorável, não pode ser interrompido em meio à corrida armamentista em andamento, nem o seria pela gula e imediatismo dos lucros. Logo, o google será uma entidade completamente autônoma, já o é, em certa medida, tanto quanto uma criancinha de 3 anos, eu diria, ainda completamente dependente, mas já com desejos próprios e potencial imenso. A velocidade dos avanços é estrondosa. O google, ou seus sucedâneos, nos engolirá; ou nos controlará como marionetes. Talvez devesse ter sido chamado Solaris.