Índice:
Definição - O que significa Machine Bias?
Viés de máquina é o efeito de suposições errôneas nos processos de aprendizado de máquina. O viés reflete problemas relacionados à coleta ou uso de dados, nos quais os sistemas tiram conclusões impróprias sobre conjuntos de dados, por causa da intervenção humana ou como resultado da falta de avaliação cognitiva dos dados.
O viés da máquina também é conhecido como viés de algoritmo ou simplesmente viés.
Techopedia explica o viés da máquina
O viés da máquina assume várias formas. Um dos exemplos mais importantes envolve o uso de sistemas de aprendizado de máquina para fazer julgamentos sobre pessoas individuais ou grupos de pessoas. Por exemplo, quando usado no campo da justiça criminal, foi mostrado que alguns modelos de aprendizado de máquina assumem taxas mais altas de criminalidade para indivíduos com base em dados superficiais, como etnia ou localização.
Outra maneira de explicar o viés da máquina em termos científicos é descrevê-lo como um "agrupamento" de dados que não é inerentemente justificado, em que o viés é uma parte do que os engenheiros chamam de troca de "variação de viés". Alta polarização pode causar cluster inadequado. Alta variação pode causar dispersão excessiva de dados. Os engenheiros podem se referir a um sistema ou resultado como "viés alto, alta variação" ou "viés baixo, alta variação" ou alguma outra combinação.
