Menu

NEWS

Quem controla os algoritmos?

Compartilhe esse conteúdo

Compartilhar no facebook
Facebook
Compartilhar no twitter
Twitter
Compartilhar no linkedin
LinkedIn
Compartilhar no whatsapp
WhatsApp
Compartilhar no email
Email

Algoritmo é a palavra do momento: “os algoritmos conhecem nossas vontades”, “vão tomar nossos trabalhos”.

Mas de forma simples, o que é um algoritmo?

É uma série de instruções que são realizadas para resolver um problema. Na escola aprendemos a fazer conta e o resultado de uma multiplicação, por exemplo, é um algoritmo simples. Um algoritmo poderia ser uma receita de bolo ou as instruções para montar um avião de papel.

Mas é a união dos algoritmos com as máquinas que está mudando o mundo. Um programador de computador traduz os problemas do mundo para uma linguagem que uma máquina entenda, ou seja, um algoritmo que a máquina seja capaz de manipular.

Os algoritmos estão em todos os lados. Engana-se quem pensa que o mais perto que um algoritmo chega em sua vida é quando o Netflix te indica um filme ou série que combina com os últimos vídeos que você assistiu ou quando você faz uma pesquisa no Google.

Na maioria das vezes é um algoritmo que decide qual o seu nível de confiabilidade, se é conveniente para um banco conceder um empréstimo e o valor concedido ou até mesmo se você merece ou não determinada oferta de trabalho.

Somos induzidos a achar que os algoritmos são neutros, mas não são e aqui começa o grande problema pois, dependendo de quem programe a máquina, quais variáveis leve em conta e com que dados a alimente, o resultado será um ou outro.

Há alguns anos, nos EUA foi desenvolvido um programa de computador para identificar possíveis reincidentes criminais e utilizado em sentenças nos tribunais de alguns Estados americanos, o que parecia ajudar nos julgamentos até aí. Contudo, segundo um estudo da agência ProPublica, a inteligência artificial desse programa agia de modo tendencioso e racista. Após analisar dados de 7 mil detentos, verificou-se que o programa tendia a conferir à pessoas brancas uma probabilidade mais baixa de reincidência em comparação com pessoas negras.

Outro exemplo em que foi detectada o preconceito da inteligência artificial foi no serviço de entrega da Amazon. Um levantamento feito pela Bloomberg mostrou que o serviço de entrega no mesmo dia, da modalidade Prime, costumava excluir bairros com alto índice de população negra em grandes cidades americanas.

O que impedirá que os algoritmos da inteligência artificial comecem a filtrar os candidatos a uma vaga de trabalho com base nos seus dados de saúde ou na sua avaliação de crédito?!

O que se sabe hoje é que os algoritmos demonstram preconceitos raciais e de gênero quando são encarregados de seleção de pessoal. 

Um grupo de professores da Universidade de Boston, afirma que os sistemas de aprendizado de máquina têm vieses sexistas porque na fonte de dados mais usada, que e a internet, existem muitas associações de conceitos que levam a máquina a estabelecer correlações como “dona de casa − ela” e “gênio − ele”.

Se as empresas consideram que a melhor maneira de solucionar problemas é usando os algoritmos, elas devem supervisionar os números advindos disso.

Se a inteligência artificial não acompanhar o mínimo que se espera de um humano civilizado, entramos em um cenário alarmante, pois não se pode admitir que o uso dos algoritmos e a estatística transforme o mundo em um grande Apartheid.

 

Nossa área de Relações e Negócios Digitais fica à disposição para auxiliar pessoas físicas e jurídicas a resguardar seus direitos e estabelecer programas de Compliance Digital.

Paula Melina Firmiano Tudisco

Paula Melina Firmiano Tudisco é advogada, formada em 2009 pela UNOPAR (Universidade Norte do Paraná). Possui expertise em Direito Digital, pós graduanda em direito eletrônico e atua no Núcleo de Relações e Negócio Digitais do escritório Küster Machado. É membro da Associação Brasileira de Tecnologia e Direito e membro da Comissão de Direito Digital da OAB Londrina/PR.
Küster Machado Advogados Associados
Com 30 anos de relevância no mercado nacional de advocacia, o Küster Machado se destaca pela sua infraestrutura e portfolio de clientes voltado ao atendimento capilarizado em mais de 20 áreas do Direito e de segmentos econômicos especializados, com sedes próprias em São Paulo, Curitiba, Londrina, Florianópolis e Blumenau. Mesclando a prestação de serviço nas áreas contenciosas e consultivas, fornece uma solução one-stop-shop aos clientes no segmento empresarial cujas operações de negócio estão situadas em todo o território nacional. Como diferencial, o escritório tem uma expertise em tecnologia que resulta na inteligência jurídica de sistematizar dados e fornecer informações em tempo real para os clientes, dedicando gestão especializada no trato das carteiras com fornecimento de performance aos negócios dos clientes. Conta com equipes de advogados especializados nas matérias o que permite a entrega de resultados personalizados para cada segmento econômico.

Últimos posts desse autor