Q:
Como o robô "Sophia" da Arábia Saudita levanta novas questões assustadoras de segurança cibernética?
UMA:Uma das mais recentes novas tecnologias de inteligência artificial é um robô em tamanho natural, criado para parecer e agir como uma mulher.
O nome dela é Sophia e ela é produzida pela Hanson Robotics, uma empresa sediada em Hong Kong. Por que ela é o robô da Arábia Saudita? Porque este estado do Golfo deu a Sophia um direito humano chave: o direito à cidadania.
Isso gera muitas manchetes e desencadeia todo tipo de debate sobre a velocidade da inteligência artificial e por que devemos nos importar. Um dos grandes problemas é a segurança cibernética - como o campo de segurança cibernética se adaptará a esses tipos de novas tecnologias?
Sophia e tecnologias semelhantes levantam problemas-chave de segurança cibernética que não abordamos anteriormente. Aqui estão algumas das coisas em que profissionais e especialistas devem pensar ao introduzir robôs que parecem, falam e agem como nós.
Em geral, a nova interface robótica realista é mais sofisticada do que estamos acostumados no passado, e isso significa uma série de novos problemas de segurança cibernética. No mundo da tecnologia, as pessoas falam sobre ter uma “superfície de ataque fina”, por exemplo, em uma configuração de hipervisor ou incorporada à segurança do servidor. Um robô que fala e caminha, por outro lado, é uma superfície de ataque muito espessa - porque as interfaces são sofisticadas, existem muitas maneiras de hackers e maus atores explorarem vulnerabilidades.
Um tipo muito específico de problema de cibersegurança é meio que misturado a uma variedade de questões sociais - você poderia chamá-lo de "síndrome do impostor", embora esse termo tenha sido usado popularmente para descrever o funcionamento instável de cientistas de dados ilegítimos.
Como você chama, o problema é que, à medida que a inteligência artificial imita seres humanos específicos com maiores graus de sucesso, fica mais difícil garantir que não sejamos sujeitos a enganos extremamente elaborados que nos fazem questionar a verdade. Você já pode ver exemplos de pessoas usando novas tecnologias para imitar políticos famosos, como neste vídeo de Barack Obama com o comediante Jordan Peele. O problema do impostor só vai crescer e se expandir à medida que a inteligência artificial nos dá novas janelas para os pensamentos e comportamentos humanos de engenharia reversa.
Além disso, em geral, essas novas interfaces e recursos vão escalar a corrida armamentista já em andamento entre profissionais de segurança e hackers. James Maude escreve sobre isso em um artigo na Xconomy, chamando a IA de “faca de dois gumes” para o cybersec e salientando que, em geral, atacar é menos dispendioso do que defender e observar preocupações com privacidade e segurança. Extrapole alguns desses argumentos para o robô de IA e você poderá ver como, com força e capacidade, vem o perigo e a necessidade de disciplina.
Outra grande novidade da Sophia e dos robôs móveis é que eles estão em movimento.
Nós nos acostumamos a tecnologias como o Watson, da IBM, que executam um trabalho cognitivo de nível extremamente alto enquanto permanecem sentados em um data center ou em alguma estrutura de hardware estacionária. É para isso que estamos acostumados - desde os primeiros mainframes até os laptops de hoje, todos nós usamos hardware estacionário. Agora temos telefones celulares, mas na verdade são essencialmente computadores de bolso. Computadores robóticos sencientes são surpreendentemente diferentes. São peças móveis autônomas que podem ser armadas por terceiros maliciosos. Um artigo da Reuters que analisa a velocidade de abordagem dos problemas de segurança cibernética dos robôs mostra como, por exemplo, os robôs podem ser "sacudidos" ou mover-se rápida e inadequadamente para causar danos potencialmente.
No final, Sophia e robôs como ela levantam uma série de problemas de segurança cibernética e outras preocupações. Como vamos distinguir atividade legítima de atividade enganosa e ilegítima quando a interface não é uma rede conectada digitalmente, mas uma peça móvel de hardware que pode nos induzir a pensar que está agindo de maneira humana? Atravessar esta ponte exigirá enormes quantidades de trabalho ético e tecnológico para garantir que os humanos mantenham as rédeas e que usemos essas tecnologias muito poderosas para o bem cívico.
