Algoritmo é a palavra do momento: “os algoritmos conhecem nossas vontades”, “vão tomar nossos trabalhos”.
Mas de forma simples, o que é um algoritmo?
É uma série de instruções que são realizadas para resolver um problema. Na escola aprendemos a fazer conta e o resultado de uma multiplicação, por exemplo, é um algoritmo simples. Um algoritmo poderia ser uma receita de bolo ou as instruções para montar um avião de papel.
Mas é a união dos algoritmos com as máquinas que está mudando o mundo. Um programador de computador traduz os problemas do mundo para uma linguagem que uma máquina entenda, ou seja, um algoritmo que a máquina seja capaz de manipular.
Os algoritmos estão em todos os lados. Engana-se quem pensa que o mais perto que um algoritmo chega em sua vida é quando o Netflix te indica um filme ou série que combina com os últimos vídeos que você assistiu ou quando você faz uma pesquisa no Google.
Na maioria das vezes é um algoritmo que decide qual o seu nível de confiabilidade, se é conveniente para um banco conceder um empréstimo e o valor concedido ou até mesmo se você merece ou não determinada oferta de trabalho.
Somos induzidos a achar que os algoritmos são neutros, mas não são e aqui começa o grande problema pois, dependendo de quem programe a máquina, quais variáveis leve em conta e com que dados a alimente, o resultado será um ou outro.
Há alguns anos, nos EUA foi desenvolvido um programa de computador para identificar possíveis reincidentes criminais e utilizado em sentenças nos tribunais de alguns Estados americanos, o que parecia ajudar nos julgamentos até aí. Contudo, segundo um estudo da agência ProPublica, a inteligência artificial desse programa agia de modo tendencioso e racista. Após analisar dados de 7 mil detentos, verificou-se que o programa tendia a conferir à pessoas brancas uma probabilidade mais baixa de reincidência em comparação com pessoas negras.
Outro exemplo em que foi detectada o preconceito da inteligência artificial foi no serviço de entrega da Amazon. Um levantamento feito pela Bloomberg mostrou que o serviço de entrega no mesmo dia, da modalidade Prime, costumava excluir bairros com alto índice de população negra em grandes cidades americanas.
O que impedirá que os algoritmos da inteligência artificial comecem a filtrar os candidatos a uma vaga de trabalho com base nos seus dados de saúde ou na sua avaliação de crédito?!
O que se sabe hoje é que os algoritmos demonstram preconceitos raciais e de gênero quando são encarregados de seleção de pessoal.
Um grupo de professores da Universidade de Boston, afirma que os sistemas de aprendizado de máquina têm vieses sexistas porque na fonte de dados mais usada, que e a internet, existem muitas associações de conceitos que levam a máquina a estabelecer correlações como “dona de casa − ela” e “gênio − ele”.
Se as empresas consideram que a melhor maneira de solucionar problemas é usando os algoritmos, elas devem supervisionar os números advindos disso.
Se a inteligência artificial não acompanhar o mínimo que se espera de um humano civilizado, entramos em um cenário alarmante, pois não se pode admitir que o uso dos algoritmos e a estatística transforme o mundo em um grande Apartheid.
Nossa área de Relações e Negócios Digitais fica à disposição para auxiliar pessoas físicas e jurídicas a resguardar seus direitos e estabelecer programas de Compliance Digital.
