Lar Áudio Por que algumas pessoas estão preocupadas com inteligência artificial?

Por que algumas pessoas estão preocupadas com inteligência artificial?

Anonim

Q:

Por que algumas pessoas estão preocupadas com inteligência artificial?

UMA:

Mudar não é fácil, e muitas pessoas têm dificuldade em se adaptar a ele. Isto é particularmente verdadeiro em relação à mudança tecnológica. O renomado professor de Harvard Calestous Juma escreveu um livro sobre o assunto chamado "Inovação e seus inimigos: por que as pessoas resistem às novas tecnologias". O livro descreve a tensão entre inovação e ordem social, com base em 600 anos de história. O impacto da tecnologia é especialmente problemático quando se trata de inteligência artificial.

Nem todo mundo é adverso a esses avanços. Ray Kurzweil, autor de “A singularidade está próxima” e “A era das máquinas espirituais”, nada mais é do que um evangelista que promove os benefícios da genética, nanotecnologia e robótica (um termo usado para inteligência não biológica). Mas esses são os mesmos problemas - e Kurzweil a mesma pessoa - que causou grande preocupação no ano 2000 para Bill Joy, cientista-chefe da Sun Microsystems.

Joy escreveu sobre suas preocupações em um artigo famoso na revista Wired, intitulado "Por que o futuro não precisa de nós". Ele acreditava que o futuro da raça humana estava em jogo. Referindo-se à competição da história evolutiva, Joy escreveu: “As espécies biológicas quase nunca sobrevivem aos encontros com concorrentes superiores.” As descobertas científicas que resultam em máquinas que superam os seres humanos apresentam riscos significativos. Visões de um futuro distópico vêm à mente.

Suponha que os cientistas sejam capazes de desenvolver máquinas com superinteligência artificial (ASI), um nível de inteligência superior ao dos seres humanos. Joy diz que uma de duas coisas pode ocorrer: as máquinas poderão tomar suas próprias decisões ou os humanos manterão o controle sobre elas. O que acontece se você entregar a energia às máquinas? Quais podem ser os resultados?

Bill Joy não é o único a expressar preocupações. O guru da tecnologia Elon Musk disse: "Com inteligência artificial, estamos convocando o demônio". Ele chamou de "nossa maior ameaça existencial". O físico Stephen Hawking disse aos participantes em uma conferência de tecnologia que "não podemos saber se seremos infinitamente ajudados pela IA, ou ignorado por ele e alinhado lateralmente, ou concebivelmente destruído por ele. ”E ele disse à revista Wired:“ Receio que a IA possa substituir completamente os humanos ”.

Esses medos são justificados? Filmes de ficção científica como "Transcendence", onde o personagem de Johnny Depp se une à inteligência artificial e causa estragos, lembram as previsões de Kurzweil de como os humanos poderiam se fundir com as máquinas. A imaginação corre solta sobre todas as maneiras pelas quais a inteligência artificial pode dar errado. O que acontece quando as máquinas assumem o controle?

Dois exemplos da vida real ilustram como a preocupação com a inteligência artificial pode ser compreensível. Em 2007, um canhão de robô matou nove pessoas e feriu 14. Algumas armas militares avançadas escolhem seus alvos automaticamente, mas esperam que um humano aperte o gatilho. Quem estava tomando as decisões aqui? Em 2016, um robô de segurança de 300 libras derrubou e atropelou uma criança de dezesseis meses. Quem estava no controle neste caso: homem ou máquina?

A razão pela qual algumas pessoas estão preocupadas com a inteligência artificial é que os riscos são reais. A próxima pergunta: como vamos gerenciar esses riscos?

Por que algumas pessoas estão preocupadas com inteligência artificial?