Q:
Por que uma empresa pode encerrar um projeto de IA de chatbot?
UMA:As empresas podem desativar projetos de chatbot de inteligência artificial por vários motivos, mas os mais prováveis podem ser agrupados em duas categorias. Primeiro, as empresas podem desligar as tecnologias de chatbot se agirem de maneiras que possam tornar a empresa desconfortável, como promover discursos desagradáveis. Como alternativa, as empresas podem encerrar um projeto de chatbot se ele começar a demonstrar sensibilidade e capacidade que não podem ser facilmente controladas ou podem representar algum tipo de ameaça eventual à saúde e segurança pública.
Temos esses dois cenários documentados na história recente. O experimento da Microsoft com o chatbot Tay terminou quando o Tay começou a assumir algumas das piores características de seus colegas humanos - comentários racistas e agressivos e atividades geralmente censuráveis, muitas das quais foram claramente aprendidas ou mesmo repetidas diretamente dos usuários.
Em um estudo de caso muito diferente, uma configuração de chatbot criada pelo Facebook foi desativada quando os cientistas observaram dois chatbots se comunicando de uma maneira que era um pouco exclusiva da observação humana. Havia a alegação de que as entidades do chatbot começaram a "falar em um tipo de código" que era mais conveniente para elas e menos transparente para seus manipuladores humanos. Este é um exemplo dessa preocupação muito real em torno da inteligência artificial em geral - que, à medida que avançamos bastante na progressão da inteligência artificial forte, os seres humanos devem agir para conter e controlar quaisquer exemplos de implementação da IA para garantir que eles não se cruzem, dado limites. Há um grande número de preocupações éticas e questões de segurança que precisam ser tratadas com forte inteligência artificial, e esse é um dos principais motivos pelos quais alguns chatbots ou outros projetos de inteligência artificial podem no futuro ser encerrados pelas partes interessadas que construíram e os apoiou através de um certo processo.
