Especialistas alertam para riscos de viés na IA sem mulheres no treino

Especialistas alertam que as ferramentas de inteligência artificial correm o risco de serem não representativas e enviesadas sem a participação de mulheres no seu treino, pois equipas maioritariamente masculinas ignoram frequentemente o equilíbrio de género nos dados e saídas.

Karina Gibert, decana do Col·legi Oficial d'Enginyers Informàtics de Catalunya, e Mònica Espinosa, diretora do Centro de Inovação e Competências da Agência Catalã de Cibersegurança, defenderam esta posição durante um evento no Auditori MoraBanc. Argumentaram que a IA treinada sem contributos diversos não reflete a sociedade de forma equitativa.

"Se não for treinada adequadamente, a IA pode exibir comportamentos não neutros e disfunções", notaram as oradoras. As equipas dominadas por homens, disseram, negligenciam frequentemente a garantia de que as mulheres estejam adequadamente representadas nos dados de treino ou de que as ferramentas funcionem igualmente para homens e mulheres, mostrando por vezes favoritismo para com estes últimos.

A raiz do problema reside na educação e nos percursos iniciais de carreira, explicou Gibert. "Não se pode colocar mulheres em ambientes onde nenhuma existe", disse, apelando a esforços para inspirar meninas do ensino básico e secundário para carreiras em tecnologia. Poucas mulheres são formadas como profissionais na área, embora Gibert tenha apontado progressos: na sua faculdade, a inscrição de mulheres subiu de 5% há seis anos para mais de 22%, graças a iniciativas direcionadas.

A falta de modelos femininos perpetua o ciclo, com a baixa representação no topo da tecnologia a persistir provavelmente sem exemplos visíveis. Tanto Gibert como Espinosa encarnam essas figuras, tendo aberto caminhos em ambientes exclusivamente masculinos para chegar aos seus cargos de topo.

Gibert não expressou arrependimentos pela sua escolha de carreira, motivada pela sua forte aptidão para a matemática. Ao entrar no mundo do trabalho, encontraram-se como as únicas mulheres nas salas de decisão, vendo frequentemente as questões de perspetivas frescas. "És sempre a senhora que está lá e vê as coisas de forma diferente", descreveu Espinosa, acrescentando que mesmo os debates continuam desafiantes como a única mulher presente.

Há anos que se sentem como "dissidentes" necessárias para contrabalançar influências enviesadas pelo masculino e entregar tecnologia justa e ética.