Por Daniela Klaiman
Daniela Klaiman é futurista com foco em comportamentos emergentes. Fundadora das empresas βeta e FutureFuture, faz consultoria e projetos para empresas

27/10/2023 06h01 Atualizado 27/10/2023
Hoje eu percebi que, segundo a Inteligência Artificial que tenho usado para gerar imagens, todo o CEO é homem e tem cabelos brancos. Também entendi que, pela visão desta mesma IA, não existem mulheres médicas ou esportistas, que líderes são apenas homens, e Board Members (membros de conselho) precisam estar na faixa dos 70 anos, serem brancos ou asiáticos e, em sua enorme maioria, do gênero masculino.
Quando percebi que a IA estava criando imagens carregada desses vieses, resolvi fazer mais alguns testes: dei os prompts (instruções em texto) em inglês para fugir da instrução de gênero e comecei: “Football player” (jogadore de futebol). A IA só me trouxe imagens de pessoas “bombadas”, muito fortes mesmo e, mais uma vez, só homens e, pelo menos dessa vez, trouxe um mix de pretos e brancos. Depois imputei “lawyer” (advogade) e, novamente, o mesmo resultado: uma supremacia masculina branca de camisa. Enfim, já entendemos um pouco o padrão: zero mulheres, zero qualquer etnia, zero diversidade e foi aí que me dei conta: a Inteligência Artificial é preconceituosa e perpetua estereótipos, o que é um péssimo sinal.

Hoje, a IA no mundo é criada e desenvolvida por apenas nove empresas, sendo cinco delas norte-americanas e quatro chinesas. Enquanto, nos EUA, a IA é totalmente voltada para o comércio, para fazer com que as pessoas consumam mais, gastem mais, na China ela é criada juntamente com o governo e focada em fazer com que o país cresça a sua soberania global a cada dia.
Além de ter essas agendas e lobbies por trás do seu desenvolvimento, o maior problema que essa tecnologia carrega é que essas nove gigantes da IA são empresas fundadas e lideradas apenas por homens de meia idade, que têm a mesma formação, repertório, visão de mundo, privilégios e vivem na mesma bolha e criaram suas IAs que, inicialmente, se “parecem com eles” e, num segundo momento, se alimentam dos conteúdos e informações disponíveis na internet e redes sociais, postados por todos nós.
O resultado é a demonstração de imagens e textos enviesados, preconceituosos, racistas e nazistas que são produzidos por essa tecnologia. Afinal, a IA é basicamente um reflexo de nós enquanto sociedade, que se inspira em nosso modo de ser e no que nós mesmos propagamos. Se somos racistas, machistas e preconceituosos, a IA também será!

Você sabia que 50% do mundo ainda não tem acesso à internet? Pois é, metade da população mundial, principalmente concentrada em alguns países da África, não estão consumindo e produzindo conteúdo para as redes e, portanto, seus pontos de vista não estão sendo incluídos nos resultados e sugestões vindas de IAs? Pois é.
E já parou para pensar que, além de produzir imagens, a IA vai ser usada para tudo em nossa vida? Por enquanto, ela é bem generativa, gerando imagens, respostas, textos, mas, em breve, é ela que tomará a maioria das decisões por nós. Se eu tiver uma IA para me ajudar com seleção para uma vaga de CEO na minha empresa, ela provavelmente só vai me trazer opções de candidatos homens, brancos e acima dos 60 anos. Se eu recrutar médicos, novamente não vai me apresentar mulheres, pretos ou indígenas.
É essa mesma IA que vai definir salários também, por exemplo, e provavelmente vai definir um salário menor para mulheres do que para homens, perpetuando o comportamento atual.
Todas essas decisões que implicam na falta de pluralidade vão ficar cada vez mais fortes, uma vez que serão operadas pela IA.
Realmente precisamos fazer uma revisão da diversidade existente nas equipes envolvidas no desenvolvimento de IAs, criar uma supervisão para entender as fontes de onde esses dados são coletados, treinar os algoritmos para que entendam vieses de preconceito e, obviamente, ponderar conteúdos e informações online para que elas representem realmente todos os pontos de vista e lifestyles. Isso é data diversity, e é necessário ser implementado para que toda a sociedade, como de fato ela é, possa ser representada e fazer com que a Inteligência Artificial do futuro seja cada vez menos preconceituosa.
© 1996 – 2023. Todos direitos reservados a Editora Globo S/A. Este material não pode ser publicado, transmitido por broadcast, reescrito ou redistribuído sem autorização.

source