Capa
Cadastro
Textos
Áudios
Autores
Mural
Escrivaninha
Ajuda
Textos
Texto

Stephen Hawking defende 23 princípios para mpedir
                   dominação robótica mundial




O Future of Life Institute, um instituto voltado a garantir que a inteligência artificial seja benéfica para os seres humanos, divulgou recentemente uma série de princípios a serem seguidos por empresas que investem no setor. O instituto tem entre seus sócios o físico Stephen Hawking e o CEO da Tesla e da SpaceX, Elon Musk, que apoiaram os princípios.

Eles são divididos em três categorias: Questões de Pesquisa, Ética e Valores e Questões de Longo Prazo. Os princípios foram debatidos e estabelecidos em uma reunião do instituto em 2017 e, além dos apoiadores já citados, contam também com o suporte de pessoas como Demis Hassabis (o CEO da DeepMind, empresa de inteligência artificial do Google) e Yan LeCun (diretor de pesquisa em inteligência artificial do Facebook).

"Inteligência artificial" ( IA ) já nos deu ferramentas benéficas que são usadas diariamente por pessoas no mundo todo. Seu desenvolvimento continuado, guiado pelos seguintes princípios, oferecerá oportunidades deslumbrantes para ajudar e empoderar pessoas nas décadas e séculos por vir", diz o instituto. Os 23 princípios acertados podem ser lidos abaixo, em tradução livre:

Questões de pesquisa:

1) Meta da pesquisa: O objetivo da pesquisa em IA não deve ser criar inteligência não-direcionada, mas criar inteligência benéfica.

2) Fundos da pesquisa: Investimentos em IA devem ser acompanhados por investimentos em pesquisa para garantir seu uso benéfico, incluindo questões polêmicas de ciência da computação, economia, direito, ética e estudos sociais, tais como: como podemos aumentar nossa prosperidade por meio da automação e, ao mesmo tempo, manter os recursos e propósitos das pessoas?

3) Ligação ciência-política: Deve haver um diálogo saudável e construtivo entre pesquisadores de IA e agentes reguladores.

4) Cultura de pesquisa: Uma cultura de cooperação, confiança e transparêcia deve ser cultivada entre pesquisadores e desenvolvedores de IA.

5) Evitar 'corridas' apressadas: Equipes desenvolvendo sistemas de IA devem cooperar ativamente para evitar cortes em padrões de segurança.

Ética e Valores

6) Segurança: Sistemas de IA devem ser seguros ao longo de toda sua vida operacional, e sua segurança deve ser verificável em todos os casos em que isso seja possível. Jamais aceitar Sistemas passíveis de falhas constantes e nunca serem re-utilizadas após prazos de validade consideradas de antemão.

7) Transparência em falhas possíveis: Se um sistema de IA causar danos, deve ser sempre possível verificar-se o por quê do ocorrido.

8) Transparência jurídica: Qualquer envolvimento de uma IA em um processo de decisão judicial cabível deve oferecer uma explicação claramente aceitável e auditável por uma autoridade humana competente.

9) Responsabilidade: Desenvolvedores de sistemas de IA avançados serão os responsáveis pelas implicações morais de seu uso, mau uso ou ações deliberdas, com oportunidade e responsabilidade de moldar corretamente essas implicações.

10) Alinhamento de valores: Sistemas de IA altamente autônomos devem ser desenhados ( compreendidos como inventos criados ou factóides passíveis de vanguarda existentes ou porvir... ) de tal maneira que os seus comportamentos futuros ( = imediatos de ocasião ) e os seus vastos objetivos sérios possam garantidamente se alinharem a valores humanos em sua operação.

11) Valores humanos: Sistemas de IA devem ser desenhados e operados de forma a ser compatíveis com ideais de dignidade, direitos, liberdades humanas e diversidade cultural.

12) Privacidade pessoal: As pessoas, grupos ou entidades benfazejas devem ter o direito de acessar, gerenciar e controlar os dados que elas geram; diante do "volume" oferecido de "poder" desses sistemas de IA, usando  e analisando esses dados por completo.

13) Liberdade e privacidade: A aplicação de IA de dados pessoais, legítimos ou expressamente legais, não deve limitar ou tomar fornteiras à liberdade real ou percebida ( além de presumida... ) das pessoas.

14) Benefício compartilhado: Tecnologias de IA devem 'empoderar' e ajudar o máximo possível de pessoas, sem vínculos com ideologias e minorias que se assumem contra terceiros, ou que usem a tecnologia como conflito infame, ao se contrariar a sociedade majoritária beneficiando-se com mau uso da IA..

15) Prosperidade compartilhada: A prosperidade econômica criada por IA deve ser compartilhada amplamente para beneficiar toda a humanidade e não a meros grupos de interesse monopolista agregado..

16) Controle humano: Humanos deverão controlar quando e como delegar decisões 'infalíveis' ( sujeiras a regras rigorosas ) ou coerentes a sistemas de IA para cumprir objetivos escolhidos tão somente por seres humanos.

17) Não-subversão: A autoridade, sem escrúpulos, responsáveis pelo controle de sistemas avançados de IA deve respeitar e melhorar em muito, e não subverter, os processos sociais - econômicos idem - e os cívicos dos quais dependem a saúde da sociedade.

18) Corrida armamentista de IA: Uma corrida armamentista ( bélica ou afins ) em sistemas ou conceitos autônomos de IA deve ser evitada, redimida ou impedida por cooptação humana tão somente..

Questões de longo prazo:

19) Caução de capacidades: Não havendo consenso, devemos evitar hipóteses firmes sobre os limites superiores dos sistemas de IA do futuro.

20) Importância: IA avançada pode representar uma profunda mudança na história da vida na Terra, e deve ser planejada e gerenciada com recursos e cuidado adequados.

21) Riscos: Os riscos representados por sistemas de IA, especialmente os de riscos catastróficos propositais - ou não - e os existenciais ( dolosos ou presumidos ), devem estar sujeitos a planos, regências políticas sérias e esforços de mitigação adequados ao seu possível impacto insurgente.

22) Melhoramento autônomo recursivo: Sistemas de IA desenhados para se melhorarem ou replicarem sozinhos de uma maneira que possa levar à qualiade ou quantidade rapidamente crescente devem estar sujeitos a medidas rígidas de controle e regulação.

23) Bem comum: Uma 'superinteligência' ( ou além disso... ) só deve ser desenvolvida a serviço de ideias éticas cabíveis, amplamente compartilhadas e tudo pelo bem de toda a humanidade, e não pelo benefício de apenas um estado, uma instituição temporal ou organização quaisquer.



Artigo recomendado e "lapidado" do site ( sem permisso ):

http://olhardigital.uol.com.br/fique_seguro/noticia/stephen-hawking-defende-23-principios-para-impedir-que-robos-dominem-o-mundo/65815  - (c) 2017
Gustavo Sumares ( do Blog midiático Olhar Digital )
Enviado por Jurubiara Zeloso em 02/02/2017
Reeditado em 02/02/2017
Código do texto: T5901012
Classificação de conteúdo: seguro

Esta obra está licenciada sob uma Licença Creative Commons. Você pode copiar, distribuir, exibir, executar, desde que seja dado crédito ao autor original (by Gustavo Sumares - 02/02/2017 - Blog OLHAR DIGITAL). Você não pode fazer uso comercial desta obra. Você não pode criar obras derivadas.

Comentários

Sobre a autora
Jurubiara Zeloso
Rio de Janeiro - Rio de Janeiro - Brasil
2000 textos (18600 leituras)
1 áudios (62 audições)
(estatísticas atualizadas diariamente - última atualização em 28/01/20 03:12)
Jurubiara Zeloso