artigos - 18/03/2024

Discriminação algorítmica nas relações de trabalho

Marcelo Mascaro – Direto ao ponto

O uso em massa da inteligência artificial já é uma realidade nas mais diversas atividades. O Poder Judiciário, por exemplo, vem estudando e implementando seu uso com vistas a promover celeridade e eficiência na prestação jurisdicional.

O mesmo ocorre no âmbito das empresas. A inteligência artificial tem se mostrado uma aliada para as corporações em diversos aspectos. Alguns de seus usos mais corriqueiros são automatização de processos, atendimento a clientes, análise de dados para a tomada de decisões, personalização de campanhas de marketing, gerenciamento de riscos, entre muitos outros.

A utilização generalizada da inteligência artificial também reflete nas relações de trabalho e na forma como a empresa se relaciona com seus empregados. Daí surge a preocupação pela discriminação algorítmica contra trabalhadores.

A discriminação algorítmica, também conhecida como viés algorítmico, refere-se a situações em que algoritmos ou modelos de inteligência artificial produzem resultados discriminatórios para determinados grupos de pessoas. Essa discriminação não necessariamente é intencional, mas pode decorrer do modo como a inteligência artificial opera e resultar em tratamento discriminatório com base em características como gênero, raça, idade, etc.

Tomemos como exemplo o uso de algoritmos para o processo seletivo de uma empresa. Nesse processo é possível que a inteligência artificial faça uma seleção prévia dos currículos que mais se adequem aos interesses da empresa e a partir de cadastros online feitos pelos candidatos. A seleção inicial pelo algoritmo, nesse sentido, provavelmente será alimentada por dados históricos de contratação da empresa.

Se um algoritmo de recrutamento for treinado com conjuntos de dados históricos que refletem preconceitos existentes no mercado de trabalho, o sistema pode aprender a reproduzir esses padrões discriminatórios.

Assim, se historicamente a empresa contou com mais empregados do gênero masculino para cargos de liderança, o conjunto de dados utilizados para treinar o algoritmo refletirá esse viés. Isso não significa que o algoritmo irá eliminar as candidatas mulheres simplesmente por elas serem mulheres, mas sim pelo fato de elas não possuírem características encontradas entre os homens.

Vejamos um exemplo bem simples de identificar e de fácil correção. Imagine-se uma empresa que sempre contou com homens em cargos de liderança. O algoritmo utilizado no processo seletivo dessa empresa poderá entender que possuir um certificado de alistamento nas Forças Armadas seja um documento indispensável pra ocupar o cargo, já que todos os homens que o ocuparam possuíam, e, assim, excluir as candidatas mulheres por não terem tal certificado.

Esse exemplo é facilmente corrigível, mas ele permite ilustrar de forma bastante clara como o modo de operar da inteligência artificial pode gerar discriminação algorítmica. Sobre outras características que levem à discriminação, porém, poderá haver maior dificuldade de identificação, como a simples existência de certos termos em currículos ou experiências profissionais, mais comuns em candidatos homens.

O algoritmo, ao ser treinado com base nesses dados históricos pode privilegiar termos ou frases presentes nos currículos dos homens historicamente contratados e levar ao favorecimento de candidatos masculinos que usem linguagem semelhante.

Da mesma forma, se a maioria dos homens que ocuparam cargos de liderança tinha experiência anterior em empresas específicas, o algoritmo pode priorizar candidatos com um histórico semelhante, excluindo mulheres com experiências igualmente relevantes em outras organizações.

Esses são alguns exemplos possíveis de discriminação algorítmica relacionada ao gênero. Muitos outros existem, seja quanto ao gênero ou associados a outros grupos. Não se pretende com isso eliminar o uso da inteligência artificial nas relações de trabalho. Ao contrário. É fundamental que as empresas estejam cientes desses riscos, adotem práticas de treinamento adequado e realizem monitoramento constante para identificar e corrigir possíveis viés em seus algoritmos, que possam significar alguma violação da legislação trabalhista.

Compartilhe

Dr. Marcelo Mascaro

Advogado do Trabalho, CTO

Blog Mascaro

As tendências, oportunidades e novidades das áreas dos direitos do trabalho e cível, de gestão de pessoas e de cálculos trabalhistas e previdenciários

Noticias

Trabalhador trans tem direito a usar qual banheiro na empresa?

Advogado trabalhista explica o que a lei atual defende sobre a disponibilidade de sanitários de ac...

Ler mais
Noticias

Como combater o assédio moral no ambiente de trabalho?

Em artigo, o advogado trabalhista Marcelo Mascaro explica como atender a lei e manter um ambiente de trabalho seguro e sau...

Ler mais
Noticias

Igualdade salarial entre homens e mulheres: a empresa precisa comprovar? Como?

Advogado trabalhista explica como as companhias devem se posicionar para cumprir a lei e as possíveis penalidades, caso a ...

Ler mais
Noticias

A empresa pode fazer perguntas sobre signo e mapa astral em entrevista de emprego?

O advogado trabalhista Marcelo Mascaro explica se uma empresa pode ou não checar o signo durante o processo se...

Ler mais

Direto ao Ponto

por Dr. Marcelo Mascaro

Advogado com experiência e conhecimento, atuando na área há mais de 25 anos, Marcelo Costa Mascaro Nascimento mantém viva a tradição e a referência do nome Mascaro Nascimento.

- 21/09/23

O Trabalhador por aplicativo tem direitos?

Direto ao ponto - Marcelo Mascaro

Ler mais
- 16/08/23

Acordo coletivo prevalece sobre convenção coletiva?

Marcelo Mascaro Convenções e acordo coletivos têm como finalidade com...

Ler mais
- 25/05/23

A equiparação salarial entre empregados de diferentes empresas de grupo econômico

A equiparação salarial é uma decorrência lógica dos princípios da igualdade e da não discriminação. Ela está prevista no a...

Ler mais
Banheiro de local de trabalho
Mascaro na Exame - 29/07/22

A empresa pode restringir a ida ao banheiro de seus empregados?

Ler mais