Stephen Hawking defende 23 princípios para mpedir
dominação robótica mundial
O Future of Life Institute, um instituto voltado a garantir que a inteligência artificial seja benéfica para os seres humanos, divulgou recentemente uma série de princípios a serem seguidos por empresas que investem no setor. O instituto tem entre seus sócios o físico Stephen Hawking e o CEO da Tesla e da SpaceX, Elon Musk, que apoiaram os princípios.
Eles são divididos em três categorias: Questões de Pesquisa, Ética e Valores e Questões de Longo Prazo. Os princípios foram debatidos e estabelecidos em uma reunião do instituto em 2017 e, além dos apoiadores já citados, contam também com o suporte de pessoas como Demis Hassabis (o CEO da DeepMind, empresa de inteligência artificial do Google) e Yan LeCun (diretor de pesquisa em inteligência artificial do Facebook).
"Inteligência artificial" ( IA ) já nos deu ferramentas benéficas que são usadas diariamente por pessoas no mundo todo. Seu desenvolvimento continuado, guiado pelos seguintes princípios, oferecerá oportunidades deslumbrantes para ajudar e empoderar pessoas nas décadas e séculos por vir", diz o instituto. Os 23 princípios acertados podem ser lidos abaixo, em tradução livre:
Questões de pesquisa:
1) Meta da pesquisa: O objetivo da pesquisa em IA não deve ser criar inteligência não-direcionada, mas criar inteligência benéfica.
2) Fundos da pesquisa: Investimentos em IA devem ser acompanhados por investimentos em pesquisa para garantir seu uso benéfico, incluindo questões polêmicas de ciência da computação, economia, direito, ética e estudos sociais, tais como: como podemos aumentar nossa prosperidade por meio da automação e, ao mesmo tempo, manter os recursos e propósitos das pessoas?
3) Ligação ciência-política: Deve haver um diálogo saudável e construtivo entre pesquisadores de IA e agentes reguladores.
4) Cultura de pesquisa: Uma cultura de cooperação, confiança e transparêcia deve ser cultivada entre pesquisadores e desenvolvedores de IA.
5) Evitar 'corridas' apressadas: Equipes desenvolvendo sistemas de IA devem cooperar ativamente para evitar cortes em padrões de segurança.
Ética e Valores
6) Segurança: Sistemas de IA devem ser seguros ao longo de toda sua vida operacional, e sua segurança deve ser verificável em todos os casos em que isso seja possível. Jamais aceitar Sistemas passíveis de falhas constantes e nunca serem re-utilizadas após prazos de validade consideradas de antemão.
7) Transparência em falhas possíveis: Se um sistema de IA causar danos, deve ser sempre possível verificar-se o por quê do ocorrido.
8) Transparência jurídica: Qualquer envolvimento de uma IA em um processo de decisão judicial cabível deve oferecer uma explicação claramente aceitável e auditável por uma autoridade humana competente.
9) Responsabilidade: Desenvolvedores de sistemas de IA avançados serão os responsáveis pelas implicações morais de seu uso, mau uso ou ações deliberdas, com oportunidade e responsabilidade de moldar corretamente essas implicações.
10) Alinhamento de valores: Sistemas de IA altamente autônomos devem ser desenhados ( compreendidos como inventos criados ou factóides passíveis de vanguarda existentes ou porvir... ) de tal maneira que os seus comportamentos futuros ( = imediatos de ocasião ) e os seus vastos objetivos sérios possam garantidamente se alinharem a valores humanos em sua operação.
11) Valores humanos: Sistemas de IA devem ser desenhados e operados de forma a ser compatíveis com ideais de dignidade, direitos, liberdades humanas e diversidade cultural.
12) Privacidade pessoal: As pessoas, grupos ou entidades benfazejas devem ter o direito de acessar, gerenciar e controlar os dados que elas geram; diante do "volume" oferecido de "poder" desses sistemas de IA, usando e analisando esses dados por completo.
13) Liberdade e privacidade: A aplicação de IA de dados pessoais, legítimos ou expressamente legais, não deve limitar ou tomar fornteiras à liberdade real ou percebida ( além de presumida... ) das pessoas.
14) Benefício compartilhado: Tecnologias de IA devem 'empoderar' e ajudar o máximo possível de pessoas, sem vínculos com ideologias e minorias que se assumem contra terceiros, ou que usem a tecnologia como conflito infame, ao se contrariar a sociedade majoritária beneficiando-se com mau uso da IA..
15) Prosperidade compartilhada: A prosperidade econômica criada por IA deve ser compartilhada amplamente para beneficiar toda a humanidade e não a meros grupos de interesse monopolista agregado..
16) Controle humano: Humanos deverão controlar quando e como delegar decisões 'infalíveis' ( sujeiras a regras rigorosas ) ou coerentes a sistemas de IA para cumprir objetivos escolhidos tão somente por seres humanos.
17) Não-subversão: A autoridade, sem escrúpulos, responsáveis pelo controle de sistemas avançados de IA deve respeitar e melhorar em muito, e não subverter, os processos sociais - econômicos idem - e os cívicos dos quais dependem a saúde da sociedade.
18) Corrida armamentista de IA: Uma corrida armamentista ( bélica ou afins ) em sistemas ou conceitos autônomos de IA deve ser evitada, redimida ou impedida por cooptação humana tão somente..
Questões de longo prazo:
19) Caução de capacidades: Não havendo consenso, devemos evitar hipóteses firmes sobre os limites superiores dos sistemas de IA do futuro.
20) Importância: IA avançada pode representar uma profunda mudança na história da vida na Terra, e deve ser planejada e gerenciada com recursos e cuidado adequados.
21) Riscos: Os riscos representados por sistemas de IA, especialmente os de riscos catastróficos propositais - ou não - e os existenciais ( dolosos ou presumidos ), devem estar sujeitos a planos, regências políticas sérias e esforços de mitigação adequados ao seu possível impacto insurgente.
22) Melhoramento autônomo recursivo: Sistemas de IA desenhados para se melhorarem ou replicarem sozinhos de uma maneira que possa levar à qualiade ou quantidade rapidamente crescente devem estar sujeitos a medidas rígidas de controle e regulação.
23) Bem comum: Uma 'superinteligência' ( ou além disso... ) só deve ser desenvolvida a serviço de ideias éticas cabíveis, amplamente compartilhadas e tudo pelo bem de toda a humanidade, e não pelo benefício de apenas um estado, uma instituição temporal ou organização quaisquer.
Artigo recomendado e "lapidado" do site ( sem permisso ):
http://olhardigital.uol.com.br/fique_seguro/noticia/stephen-hawking-defende-23-principios-para-impedir-que-robos-dominem-o-mundo/65815 - (c) 2017
dominação robótica mundial
O Future of Life Institute, um instituto voltado a garantir que a inteligência artificial seja benéfica para os seres humanos, divulgou recentemente uma série de princípios a serem seguidos por empresas que investem no setor. O instituto tem entre seus sócios o físico Stephen Hawking e o CEO da Tesla e da SpaceX, Elon Musk, que apoiaram os princípios.
Eles são divididos em três categorias: Questões de Pesquisa, Ética e Valores e Questões de Longo Prazo. Os princípios foram debatidos e estabelecidos em uma reunião do instituto em 2017 e, além dos apoiadores já citados, contam também com o suporte de pessoas como Demis Hassabis (o CEO da DeepMind, empresa de inteligência artificial do Google) e Yan LeCun (diretor de pesquisa em inteligência artificial do Facebook).
"Inteligência artificial" ( IA ) já nos deu ferramentas benéficas que são usadas diariamente por pessoas no mundo todo. Seu desenvolvimento continuado, guiado pelos seguintes princípios, oferecerá oportunidades deslumbrantes para ajudar e empoderar pessoas nas décadas e séculos por vir", diz o instituto. Os 23 princípios acertados podem ser lidos abaixo, em tradução livre:
Questões de pesquisa:
1) Meta da pesquisa: O objetivo da pesquisa em IA não deve ser criar inteligência não-direcionada, mas criar inteligência benéfica.
2) Fundos da pesquisa: Investimentos em IA devem ser acompanhados por investimentos em pesquisa para garantir seu uso benéfico, incluindo questões polêmicas de ciência da computação, economia, direito, ética e estudos sociais, tais como: como podemos aumentar nossa prosperidade por meio da automação e, ao mesmo tempo, manter os recursos e propósitos das pessoas?
3) Ligação ciência-política: Deve haver um diálogo saudável e construtivo entre pesquisadores de IA e agentes reguladores.
4) Cultura de pesquisa: Uma cultura de cooperação, confiança e transparêcia deve ser cultivada entre pesquisadores e desenvolvedores de IA.
5) Evitar 'corridas' apressadas: Equipes desenvolvendo sistemas de IA devem cooperar ativamente para evitar cortes em padrões de segurança.
Ética e Valores
6) Segurança: Sistemas de IA devem ser seguros ao longo de toda sua vida operacional, e sua segurança deve ser verificável em todos os casos em que isso seja possível. Jamais aceitar Sistemas passíveis de falhas constantes e nunca serem re-utilizadas após prazos de validade consideradas de antemão.
7) Transparência em falhas possíveis: Se um sistema de IA causar danos, deve ser sempre possível verificar-se o por quê do ocorrido.
8) Transparência jurídica: Qualquer envolvimento de uma IA em um processo de decisão judicial cabível deve oferecer uma explicação claramente aceitável e auditável por uma autoridade humana competente.
9) Responsabilidade: Desenvolvedores de sistemas de IA avançados serão os responsáveis pelas implicações morais de seu uso, mau uso ou ações deliberdas, com oportunidade e responsabilidade de moldar corretamente essas implicações.
10) Alinhamento de valores: Sistemas de IA altamente autônomos devem ser desenhados ( compreendidos como inventos criados ou factóides passíveis de vanguarda existentes ou porvir... ) de tal maneira que os seus comportamentos futuros ( = imediatos de ocasião ) e os seus vastos objetivos sérios possam garantidamente se alinharem a valores humanos em sua operação.
11) Valores humanos: Sistemas de IA devem ser desenhados e operados de forma a ser compatíveis com ideais de dignidade, direitos, liberdades humanas e diversidade cultural.
12) Privacidade pessoal: As pessoas, grupos ou entidades benfazejas devem ter o direito de acessar, gerenciar e controlar os dados que elas geram; diante do "volume" oferecido de "poder" desses sistemas de IA, usando e analisando esses dados por completo.
13) Liberdade e privacidade: A aplicação de IA de dados pessoais, legítimos ou expressamente legais, não deve limitar ou tomar fornteiras à liberdade real ou percebida ( além de presumida... ) das pessoas.
14) Benefício compartilhado: Tecnologias de IA devem 'empoderar' e ajudar o máximo possível de pessoas, sem vínculos com ideologias e minorias que se assumem contra terceiros, ou que usem a tecnologia como conflito infame, ao se contrariar a sociedade majoritária beneficiando-se com mau uso da IA..
15) Prosperidade compartilhada: A prosperidade econômica criada por IA deve ser compartilhada amplamente para beneficiar toda a humanidade e não a meros grupos de interesse monopolista agregado..
16) Controle humano: Humanos deverão controlar quando e como delegar decisões 'infalíveis' ( sujeiras a regras rigorosas ) ou coerentes a sistemas de IA para cumprir objetivos escolhidos tão somente por seres humanos.
17) Não-subversão: A autoridade, sem escrúpulos, responsáveis pelo controle de sistemas avançados de IA deve respeitar e melhorar em muito, e não subverter, os processos sociais - econômicos idem - e os cívicos dos quais dependem a saúde da sociedade.
18) Corrida armamentista de IA: Uma corrida armamentista ( bélica ou afins ) em sistemas ou conceitos autônomos de IA deve ser evitada, redimida ou impedida por cooptação humana tão somente..
Questões de longo prazo:
19) Caução de capacidades: Não havendo consenso, devemos evitar hipóteses firmes sobre os limites superiores dos sistemas de IA do futuro.
20) Importância: IA avançada pode representar uma profunda mudança na história da vida na Terra, e deve ser planejada e gerenciada com recursos e cuidado adequados.
21) Riscos: Os riscos representados por sistemas de IA, especialmente os de riscos catastróficos propositais - ou não - e os existenciais ( dolosos ou presumidos ), devem estar sujeitos a planos, regências políticas sérias e esforços de mitigação adequados ao seu possível impacto insurgente.
22) Melhoramento autônomo recursivo: Sistemas de IA desenhados para se melhorarem ou replicarem sozinhos de uma maneira que possa levar à qualiade ou quantidade rapidamente crescente devem estar sujeitos a medidas rígidas de controle e regulação.
23) Bem comum: Uma 'superinteligência' ( ou além disso... ) só deve ser desenvolvida a serviço de ideias éticas cabíveis, amplamente compartilhadas e tudo pelo bem de toda a humanidade, e não pelo benefício de apenas um estado, uma instituição temporal ou organização quaisquer.
Artigo recomendado e "lapidado" do site ( sem permisso ):
http://olhardigital.uol.com.br/fique_seguro/noticia/stephen-hawking-defende-23-principios-para-impedir-que-robos-dominem-o-mundo/65815 - (c) 2017