A ideia de ter máquinas resolvendo uma série de coisas pra gente há muito tempo faz parte da visão de um futuro utópico. Para alguns na verdade é um futuro distópico. Vale lembrar filmes como Minority Report. Mas uma coisa que nem as projeções distópicas colocam, e que estamos começando a ver na prática, é o enviesamento do algoritmo com base em dados enviesados. A questão é que qualquer programa de computador vai partir de inputs e decisões humanas, e muitas vezes usar dados compilados por humanos para aprender. Um dos casos mais fácil de entender isso é, se usamos algoritmos para fazer distribuição de policiamento com base nos dados anteriores, entramos num ciclo muito complicado. O algoritmo vai aprender aonde acontecem mais crimes, e quem comete mais crimes, com base nos dados anteriores da polícia que visava discriminadamente certas regiões e grupos. Com isso, passa-se a direcionar mais esforços para esse mesmo grupo, reforçando a tendência dos dados, e ficando nesse ciclo infinito.
0 comments
0 comments