Q:
Quais são algumas questões éticas relacionadas ao aprendizado de máquina?
UMA:As questões éticas que envolvem o aprendizado de máquina envolvem não os próprios algoritmos de aprendizado de máquina, mas a maneira como os dados são usados.
O escândalo da Cambridge Analytica com o Facebook, onde uma empresa de consultoria política usou dados do site de redes sociais sem o conhecimento ou consentimento dos usuários, ilustrou muitos dos problemas associados à coleta e uso de dados do usuário. Embora muitos contratos de licença de usuário final especifiquem como os dados dos usuários podem ser usados, muitos usuários de mídia social podem não ler as letras miúdas.
| Download grátis: Machine Learning e por que é importante |
Outro problema é que esses algoritmos de aprendizado de máquina podem ser "caixas negras", onde é impossível ver como eles realmente funcionam. Pode ser impossível saber por que um algoritmo de aprendizado de máquina tomou uma decisão.
Uma área do aprendizado de máquina é fazer diagnósticos médicos. Um algoritmo pode olhar para raios-X para encontrar câncer. Um médico humano pode explicar por que eles fizeram um diagnóstico, mas talvez não saibamos como um algoritmo de aprendizado de máquina determinou que um paciente tinha câncer ou não.
A liberação de programas de aprendizado de máquina sob licenças de código aberto é uma solução. Quando as pessoas podem olhar para o código-fonte de um programa, elas podem ver como ele toma decisões.
Outra questão é o uso de dados de treinamento de aprendizado de máquina e possíveis vieses. Houve vários casos de preconceitos raciais e outros tornando-os involuntários em programas de aprendizado de máquina. Um algoritmo identificou pessoas negras como gorilas, e outro alterou as características faciais de pessoas de cor para fazê-las parecer mais "européias", ao mesmo tempo em que afirmam embelezá-las.
Uma maneira de combater isso é ter mais pessoas de diversas origens no campo da IA.
Outro problema é o uso seguro de aprendizado de máquina e inteligência artificial. Os programas de IA e aprendizado de máquina podem desenvolver comportamentos que as pessoas não desejam, como impedir que as pessoas os desliguem.
