NEWS

Quem controla os algoritmos?

Compartilhe esse conteúdo

Compartilhar no facebook
Facebook
Compartilhar no twitter
Twitter
Compartilhar no linkedin
LinkedIn
Compartilhar no whatsapp
WhatsApp
Compartilhar no email
Email

Algoritmo é a palavra do momento: “os algoritmos conhecem nossas vontades”, “vão tomar nossos trabalhos”.

Mas de forma simples, o que é um algoritmo?

É uma série de instruções que são realizadas para resolver um problema. Na escola aprendemos a fazer conta e o resultado de uma multiplicação, por exemplo, é um algoritmo simples. Um algoritmo poderia ser uma receita de bolo ou as instruções para montar um avião de papel.

Mas é a união dos algoritmos com as máquinas que está mudando o mundo. Um programador de computador traduz os problemas do mundo para uma linguagem que uma máquina entenda, ou seja, um algoritmo que a máquina seja capaz de manipular.

Os algoritmos estão em todos os lados. Engana-se quem pensa que o mais perto que um algoritmo chega em sua vida é quando o Netflix te indica um filme ou série que combina com os últimos vídeos que você assistiu ou quando você faz uma pesquisa no Google.

Na maioria das vezes é um algoritmo que decide qual o seu nível de confiabilidade, se é conveniente para um banco conceder um empréstimo e o valor concedido ou até mesmo se você merece ou não determinada oferta de trabalho.

Somos induzidos a achar que os algoritmos são neutros, mas não são e aqui começa o grande problema pois, dependendo de quem programe a máquina, quais variáveis leve em conta e com que dados a alimente, o resultado será um ou outro.

Há alguns anos, nos EUA foi desenvolvido um programa de computador para identificar possíveis reincidentes criminais e utilizado em sentenças nos tribunais de alguns Estados americanos, o que parecia ajudar nos julgamentos até aí. Contudo, segundo um estudo da agência ProPublica, a inteligência artificial desse programa agia de modo tendencioso e racista. Após analisar dados de 7 mil detentos, verificou-se que o programa tendia a conferir à pessoas brancas uma probabilidade mais baixa de reincidência em comparação com pessoas negras.

Outro exemplo em que foi detectada o preconceito da inteligência artificial foi no serviço de entrega da Amazon. Um levantamento feito pela Bloomberg mostrou que o serviço de entrega no mesmo dia, da modalidade Prime, costumava excluir bairros com alto índice de população negra em grandes cidades americanas.

O que impedirá que os algoritmos da inteligência artificial comecem a filtrar os candidatos a uma vaga de trabalho com base nos seus dados de saúde ou na sua avaliação de crédito?!

O que se sabe hoje é que os algoritmos demonstram preconceitos raciais e de gênero quando são encarregados de seleção de pessoal. 

Um grupo de professores da Universidade de Boston, afirma que os sistemas de aprendizado de máquina têm vieses sexistas porque na fonte de dados mais usada, que e a internet, existem muitas associações de conceitos que levam a máquina a estabelecer correlações como “dona de casa − ela” e “gênio − ele”.

Se as empresas consideram que a melhor maneira de solucionar problemas é usando os algoritmos, elas devem supervisionar os números advindos disso.

Se a inteligência artificial não acompanhar o mínimo que se espera de um humano civilizado, entramos em um cenário alarmante, pois não se pode admitir que o uso dos algoritmos e a estatística transforme o mundo em um grande Apartheid.

 

Nossa área de Relações e Negócios Digitais fica à disposição para auxiliar pessoas físicas e jurídicas a resguardar seus direitos e estabelecer programas de Compliance Digital.

Paula Melina Firmiano Tudisco

Paula Melina Firmiano Tudisco é advogada, formada em 2009 pela UNOPAR (Universidade Norte do Paraná). Possui expertise em Direito Digital, pós graduanda em direito eletrônico e atua no Núcleo de Relações e Negócio Digitais do escritório Küster Machado. É membro da Associação Brasileira de Tecnologia e Direito e membro da Comissão de Direito Digital da OAB Londrina/PR.
Küster Machado Advogados
Küster Machado Advogados Com mais de 30 anos de atuação nacional, o Küster Machado Advogados oferece soluções jurídicas abrangentes nas esferas contenciosas e consultivas em mais de 20 áreas do Direito a nível nacional. Possui unidades nas cidades de Curitiba, Blumenau, Londrina, Florianópolis e São Paulo e desks na Suécia, China e Estados Unidos.

Últimos posts desse autor

LGPD: 5 ajustes prioritários para se adequar.

LGPD EM VIGOR A LGPD finalmente está em vigor desde o dia 18/09/2020. Agora é hora de eleger prioridades e entender onde os ajustes são necessários. Adequação contratual A LGPD

O WhatsApp pode ser usado como prova?

Tão popular nos dias de hoje, o aplicativo desperta uma dúvida muito comum:  é possível utilizar uma conversa no WhatsApp num processo? Sim, caso haja um conflito na justiça, podem