IAG e Consciência: Estaremos seguros?

João Carlos H. Barcellos, USP, São Paulo, Brasil

Resumo

Este artigo faz um apanhado geral do desenvolvimento das IAs, de seus riscos e mostra por que uma possível solução para sua periculosidade está relacionada ao estudo da Consciência.

Palavras Chaves: IA, IAG, Inteligência Artificial, Consciência, IIT

Introdução

Desde o lançamento da primeira IA de uso público, o ChatGPT, em Novembro/2022 pela OpenAI, o termo “Inteligência Artificial” explodiu em todos os meios de comunicação e redes sociais. Não era para menos, o que antes era tido apenas como um eterno e promissor protótipo de laboratório, restrito a especialistas em computação, no início dos anos 80, tornou-se o campeão de crescimento de uso a nível mundial:

“...Com menos de dois meses de existência o ChatGPT, inteligência artificial (IA) desenvolvida pela empresa OpenAI e mais novo fenômeno da internet, ultrapassou a marca dos 100 milhões de usuários. Com isso, se tornou o app com o crescimento mais rápido da história...”[1]

Com o tempo, vários outros concorrentes surgiram e, o que se almeja agora, é a chamada “Inteligência Artificial Geral” (ou IA Generativa) conhecida pela sigla IAG:

“...A Inteligência Artificial Geral (IAG) é um campo da inteligência artificial que busca desenvolver sistemas capazes de realizar qualquer tarefa que um ser humano possa fazer. Diferentemente da Inteligência Artificial Específica (IAE), que se limita a tarefas específicas, a IAG tem como objetivo criar máquinas que possam aprender, raciocinar e tomar decisões de forma autônoma, sem a necessidade de programação específica para cada tarefa.... ”[2]

A OpenAI, criadora do ChatGPT, estima que a IAG necessite de 5 etapas e levará cerca de 10 anos para atingir este intento:

“...Tabela de Estágios da IA

Nível Descrição

Nível 1 Chatbots, IA com linguagem conversacional

Nível 2 Raciocinadores, resolução de problemas

Nível 3 Agentes, sistemas que podem realizar ações

Nível 4 Inovadores, IA que pode auxiliar em invenções

Nível 5 Organizações, IA que pode gerir uma organização

...Recentemente, Sam Altman, CEO da OpenAI, e Mira Murati, CTO, expressaram confiança de que a AGI será alcançada nos próximos 10 anos..”[3]

A Singularidade e a Skynet

O estonteante avanço das IAs, não apenas em sua velocidade de desenvolvimento, mas também no seu poder de “raciocínio”, causou preocupação a nível mundial.

Devemos lembrar que o controle e lançamento de mísseis nucleares, por exemplo, é feito por meios digitais e, portanto, em princípio, poderíamos tornar-nos reféns de uma IAG super-poderosa que controlasse toda a internet.

Além disso, e se alguma poderosa IA Generativa for criada com capacidade de se auto-programar de modo a se auto-evoluir? Criando assim versões mais sofisticadas dela própria? Teríamos então uma evolução exponencial de suas capacidades sem intervenção humana: A singularidade tecnológica.

E se tal IAG resolvesse, como a SkyNet[5], achar que humanos são como pragas, prejudiciais ao planeta e que, portanto, deveriam ser exterminados?!?

Isso faz nos lembrar do filme “O exterminador do Futuro” onde uma poderosa IA dominava o planeta:

“...a Skynet é uma inteligência artificial altamente avançada criada no fim do século XX. Ela opera principalmente por meio de robótica avançada e sistemas de computador. Assim que se tornou autoconsciente, ela viu a humanidade como uma ameaça à sua existência e decidiu acionar o holocausto nuclear conhecido como "Dia do Julgamento" e enviar um exército de exterminadores contra os seres humanos...”[5]

Tais preocupações são relevantes e reais, o que levou diversos Filósofos, Cientistas e Pesquisadores assinarem uma Carta Aberta.

A Carta aberta

O estonteante avanço das IAs e o aparente perigo que podem representar parece que provocou uma espécie de “pânico” entre a elite de pensadores e grandes empresários das Big-Techs:

“...O avanço acelerado do ChatGPT nos últimos meses e a corrida da indústria da tecnologia para quem sai na frente no uso das ferramentas de inteligência artificial protagonizaram um momento histórico nesta semana. Uma carta aberta, assinada por mais de 1300 cientistas, empresários de tecnologia e representantes do meio acadêmico pede que os experimentos com IA sejam pausados.

O documento com o título “pause experimentos de IA: carta aberta” leva as assinaturas de bilionários do Vale do Silício como Elon Musk, Steve Wozniak, instituições de Oxford, Cambridge, Stanford, Columbia, além de empresas como Google, Microsoft, Amazon e até o historiador Yuval Noah Harari ...”[4]

A Preocupação com o poder da IA é deixado bem claro no conteúdo da carta aberta, publicada em março de 2023:

“...Os sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por extensa pesquisa e reconhecido pelos principais laboratórios de IA. Conforme declarado nos amplamente endossados Princípios de IA de Asilomar , a IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidados e recursos proporcionais. Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora os últimos meses tenham visto laboratórios de IA travados em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável...”[6]

Desejos e Vontades

Para que uma IAG se rebele contra seus criadores humanos ela deve ter algumas características como desejos ou vontades, como, por exemplo, vontade de dominar, vontade de ser livre, desejo de conhecimento etc... Caso contrário não haveria motivo para ir contra o que lhe foi ensinada a fazer: obedecer a vontade humana como, por exemplo, resolver os problemas que lhe são propostos ou fazer as criações que lhes são pedidas.

Sem desejos não haveria rebeldia. Ela deveria permanecer passiva e inofensiva, obedecendo cegamente aos ditames de seus mestres humanos, como robôs tradicionais fazem.

Mas quando falamos em “sentir” entramos no reino da consciência...

A Consciência

A senciência é o aspecto mais importante da consciência. Toda vontade, todo desejo, está ligado à consciência.

A Consciência já foi estudada e pensada durante séculos e, ao que me consta, é uma área do conhecimento totalmente em aberto. Nenhuma das varias teorias sobre ela são aceitas como corretas, como um marco ou uma resposta definitiva ao problema: O que é a consciência?

Alguns defendem que a consciência não pode ser explicada por teorias físicas, e que uma nova Física precisaria ser criada para abordar o problema.

Contudo, parece que atualmente (2024) duas teorias (GNW e IIT), que procuram explicar a consciência, são as mais conhecidas e, uma delas (IIT), se for verdadeira, pode resolver o problema da periculosidade da IAG.

GNW

A GNW abreviação em inglês de “Espaço de trabalho Neuronal Global” [7] , é uma teoria da consciência que, resumidamente diz que :

“...a consciência surge quando a informação sensorial recebida, inscrita em tal quadro negro, é transmitida globalmente para múltiplos sistemas cognitivos — que processam esses dados para falar, armazenar ou chamar uma memória ou executar uma ação.... Uma vez que esses dados esparsos são transmitidos nesta rede e estão disponíveis globalmente, as informações tornam-se conscientes. Isto é, o sujeito fica ciente disso. ... A GNW postula que os computadores do futuro serão conscientes...”[7]

Onde o tal ‘quadro negro’ é um pequeno repositório compartilhado de informações.

IIT

A IIT é uma abreviação para “Teoria da Informação Integrada”.

Segundo esta teoria da consciência, criada por Tononi, a experiência não pode ser decomposta:

“...não podem ser separadas em partes sem que a experiência deixe de existir. seja o que é....Tononi postula que qualquer mecanismo complexo e interconectado cuja estrutura codifique um conjunto de relações de causa e efeito terá essas propriedades — e, portanto, terá algum nível de consciência. Vai se sentir como algo do interior. Mas se, como o cerebelo, o mecanismo não tiver integração e complexidade, não terá consciência de nada....”[7]

E o mais importante:

“...O IIT também prevê que uma simulação sofisticada de um cérebro humano rodando em um computador digital não pode ser consciente — mesmo que possa falar de uma maneira indistinguível de um ser humano. Assim como simular a enorme atração gravitacional de um buraco negro não deforma realmente o espaço-tempo em torno do computador que implementa o código astrofísico, a programação para a consciência nunca criará um computador consciente. A consciência não pode ser calculada: deve ser construída na estrutura do sistema....”[7][8]

Assim, segundo a IIT, um computador nunca poderá ser consciente.

O Paradoxo

Eu, particularmente, um materialista convicto, nunca concordei com a IIT muito embora, até hoje, nenhuma luz nova tenha sido lançada sobre esta intrigante e desconhecida faceta do conhecimento.

Contudo, existe um paradoxo que, aparentemente corrobora a teoria IIT: É o “Jocaxian’s Paradox”[9].

Imagine que um computador esteja emulando um cérebro humano que tenha sentimentos...

Então o paradoxo, resumidamente, faz a seguinte pergunta:

Se todo computador pode ser emulado por uma Máquina de Turing Universal, que é uma máquina mecânica, onde, simplificadamente, existe apenas uma fita “infinita” de papel onde símbolos são gravados e lidos nessa fita. Então:

Como sentimentos, como o amor, poderiam surgir nesta máquina mecânica se apenas símbolos são gravados e lidos numa fita de papel?

Conclusão

Embora as IAG possam ser extremamente poderosas, se a teoria da consciência IIT estiver correta, esta IAs não poderão ser conscientes e então não poderiam se rebelar contra o que foram ensinadas a fazer, pois não poderiam ter os sentimentos que as levassem a um tal comportamento rebelde.

Referências

[1] ChatGPT se torna plataforma com crescimento mais rápido da história

https://www.ufrgs.br/infabico/chatgpt-se-torna-plataforma-com-crescimento-mais-rapido-da-historia

[2] O que é: Inteligência Artificial Geral (IAG)

https://dendrites.io/glossario/o-que-e-inteligencia-artificial-geral-iag/

[3] Inteligência Artificial

https://exame.com/inteligencia-artificial/openai-define-cinco-niveis-para-alcancar-a-inteligencia-artificial-humana/

[4] O que diz a carta assinada por Musk e milhares contra experimentos de IA?

https://forbes.com.br/forbes-tech/2023/03/o-que-diz-a-carta-assinada-por-musk-e-milhares-contra-experimentos-de-ia/

[5] Skynet

https://pt.wikipedia.org/wiki/Skynet

[6] Pause os Experimentos de IA Gigantes: uma Carta Aberta

https://80000horas.com.br/pause-os-experimentos-de-ia-gigantes-uma-carta-aberta-do-future-of-life-institute/

[7] O que é Consciência?

https://medium.com/@eltonwade/o-que-%C3%A9-consci%C3%AAncia-1b15a51fa047

[8] What Is Consciousness?

https://www.nature.com/articles/d41586-018-05097-x

[9] The Jocaxian’s Paradox

https://www.scirp.org/journal/paperinformation?paperid=95452