Você pode confiar na IA? Você deve aceitar suas descobertas como objetivamente válidas sem questionar? O problema é que mesmo questionar a própria IA não produziria respostas claras.
Os sistemas de IA geralmente funcionam como uma caixa preta: os dados são inseridos e os dados são gerados, mas os processos que transformam esses dados são um mistério. Isso cria um duplo problema. Uma é que não está claro qual desempenho dos algoritmos é mais confiável. A outra é que os resultados aparentemente objetivos podem ser distorcidos pelos valores e preconceitos dos humanos que programam os sistemas. É por isso que há necessidade de transparência para os processos de pensamento virtual que esses sistemas usam, ou "IA explicável".
O imperativo ético tornou-se legal para qualquer pessoa sujeita ao RGPD, que afeta não apenas os negócios baseados na UE, mas também aqueles que têm relações com pessoas ou organizações da região. Ele contém várias disposições sobre proteção de dados que se estendem aos cidadãos da UE “o direito de não estar sujeito apenas à tomada de decisões automatizada, exceto em determinadas situações” e “o direito de receber informações significativas sobre a lógica envolvida na decisão . ”
