-->
  • Tendenciosidade, diversidade de dados e como uma ferramenta automatizada pode ser discriminatória


    "Toda organização tem responsabilidade social no ambiente onde se encontra. Inclusão e diversidade estão entre essas responsabilidades. Não é favor. Não é bondade. Se sua empresa ainda não se preocupa com isso, ela está fadada a perder mercado muito em breve."
    E é com essa frase que quero começar meu texto. Diversidade deixou de ser um assunto sem relevância faz muito tempo, na verdade nunca foi, mas recentemente a sociedade anda percebendo que os diversos grupos e minorias têm ganhado notoriedade, poder econômico e relevância, então não se preocupar com a diversidade se tornou um verdadeiro tiro no pé para as organizações, globalmente.

    Cada dia que passa a sociedade clama mais por direitos iguais e exige que todos tenham a mesma oportunidade de trabalho, estudo, existência e é aí que as novas tecnologias e a questão do viés inconsciente entra.

    Já existem vários casos de ferramentas que devido à falta de diversidade nos ambientes onde foram utilizadas, tornaram-se extremamente discriminatórias. Há diversos estudos sobre ferramentas de Inteligência Artificial que se tornaram verdadeiros "monstros" ao serem utilizadas com determinado grupo de dados.

    Há a história conhecida de uma determinada ferramenta de inteligência artificial para seleção de candidatos que preteria mulheres, baseada na informação de "menor" produtividade em relação aos homens, isso porque uma ferramenta não tem capacidade de analisar determinados "poréns", ela simplesmente trabalha com dados e na prática, mulheres trabalham menos horas que homens em determinadas situações, se levarmos em consideração que elas têm direito a licença maternidade por exemplo. Isso traduz produtividade na prática? Não. São apenas dados crus e a ferramenta apenas os interpreta de forma prática. A mesma na época foi retirada do ar para que se trabalhasse a questão desse entendimento equivocado.

    Outra ferramenta de AI que trabalhava com base nos resultados de Twitter, se transformou num disseminador de ódio, pois seu "aprendizado" foi baseado nos tweets que eram publicados e o discurso de ódio frequente transformou a ferramenta num disseminador de coisas nada legais.

    Há o caso recente também de uma gigante da tecnologia que retirou do mercado sua ferramenta de reconhecimento facial, em meio ao movimento Black Lives Matter, pois reconheceu que a ferramenta poderia ser utilizada de forma a discriminar pessoas ainda mais. A empresa exigiu uma legislação específica para o seu uso. Enquanto isso não acontece, seu reconhecimento facial por AI está fora do mercado.

    O que podemos aprender com essas histórias?

    Na minha opinião, que os nossos ambientes estão longe de serem diversos e respeitosos. Como eu disse, as ferramentas não têm pensamento consciente, elas nada mais são do que reflexo dos dados disponíveis, portanto se na sua base de dados não há diversidade a ferramenta não tem como entregar um resultado diverso. É um conceito básico.

    O mesmo se aplica aos ambientes de trabalho. Como será possível que cientistas de dados entreguem informações relevantes do ponto de vista da inclusão se nos ambientes onde eles estão inseridos a inclusão não é levada a sério.

    Como uma empresa que cria pode focar na diversidade se não tem um ambiente diverso? Se sequer sabe respeitar as diferenças onde seus produtos são idealizados e produzidos?

    Todo mundo sabe que a gente só entende as dores de uma determinada situação, quando a gente se abre para aprender ou quando a gente é forçado a viver essa determinada situação. Portanto se não houver um esforço coletivo em todas as esferas, a inclusão nunca será real.

    Eu não consigo pensar em base de dados mais diversas enquanto se insiste em mais do mesmo em todos os lugares. Pessoas que não têm experiência e lugar de fala não podem decidir como esses assuntos serão tratados, olhar de fora sempre é muito fácil, portanto precisamos de diversidade nos nossos quadros para que as empresas realmente entendam e entreguem produtos e ferramentas diversas.

    E como falei no início, diversidade é responsabilidade social de toda empresa. Não é favor, é obrigação. Toda empresa tem obrigações a cumprir com o ambiente no qual ela está inserida, ela tem obrigação de entender, facilitar e estimular o desenvolvimento desse ecossistema, ela precisa pesquisar e precisa explorar o contexto para cumprir seu papel.

    E se essa companhia não o faz por responsabilidade social, deveria fazer pelo lucro. Sim, pelo lucro.

    A sociedade está mudando, é irreversível que com o tempo todas as minorias ganhem mais lugar e mais voz, portanto se você não aprender a entregar um produto diverso, você vai lucrar menos, é bem simples é lógico na verdade.

    E para aprender e saber ser diverso, você precisa SER realmente diverso. Não adianta falar se no seu núcleo você não respeita e não busca a inclusão.

    Ouça. Observe. Aprenda. A sociedade em geral têm dado incríveis lições, as consequências estão em aberto para todos, é bem fácil entender e começar a colocar em prática, nas ações do dia a dia, nas pequenas decisões. É importante que todos se comprometam a dar o primeiro passo.

    Ferramentas lógicas, que não têm pensamento e emoções podem ser tendenciosas? Sim, se o ambiente onde elas estão inseridas não fornecer dados relevantes e diversos, ela somente fará análises tendenciosas.

    Precisamos nos preocupar com bases de dados mais inclusivas. Precisamos fornecer dados realmente variados para a inteligência artificial trabalhar. Só assim, vamos eliminar os problemas que citei lá no começo.

    Do meu lugar de fala de mãe de uma criança com necessidades especiais eu digo, espero que o futuro realmente inclua a todos e não somente os privilegiados.

    Tomara que meu texto tenha te feito refletir e buscar, mesmo que nas pequenas decisões do seu dia, diversificar e incluir todo mundo. Não fique para trás. É um caminho sem volta.

    E ainda bem que ele é.

    Até a próxima!


  • You might also like

    Nenhum comentário:

    Postar um comentário