Da Redação Avance News
Estudo desafia ideia de falhas técnicas na tecnologia e defende políticas para promover justiça social em vez de amplificar desigualdades
Tudo sobre Inteligência Artificial
Pesquisadores desafiam a ideia de que o preconceito na inteligência artificial (IA) é apenas uma falha técnica, argumentando que a tecnologia é fortemente influenciada pela dinâmica de poder social. A IA aprende com dados históricos, moldados por preconceitos humanos e acaba perpetuando discriminação.
Em vez de criar desigualdade, a IA a reforça, como exemplificado pela ferramenta de contratação da Amazon, que favoreceu homens, e pelos sistemas de detecção de fraudes, que, injustamente, acusaram migrantes e famílias vulneráveis.
Leia mais:
Estudo evidencia como a IA reforça a desigualdade
- Uma nova pesquisa, liderada pelo professor Tuba Bircan, da Universidade de Bruxelas (Bélgica), destaca como a IA pode amplificar preconceitos existentes, principalmente quando não há transparência e responsabilidade em seu uso;
- A tecnologia é desenvolvida dentro de ecossistema em que empresas, desenvolvedores e políticos tomam decisões sobre seu design e aplicação, impactando diretamente as desigualdades sociais;
- Sistemas de IA treinados com dados enviesados replicam discriminação em áreas sensíveis, como emprego, policiamento e assistência social;
- O estudo está publicado no jornal Technological Forecasting and Social Change.
O estudo também sugere que a governança da IA deve ser mais ampla, com maior transparência e inclusão, para evitar a exclusão digital e o aprofundamento das disparidades socioeconômicas.
No entanto, oferece visão otimista, defendendo que, com políticas proativas de justiça e responsabilidade, a IA pode ser usada para promover mudanças sociais positivas, em vez de reforçar as desigualdades existentes.
Colaboração para o Olhar Digital
Leandro Criscuolo é jornalista formado pela Faculdade Cásper Líbero. Já atuou como copywriter, analista de marketing digital e gestor de redes sociais. Atualmente, escreve para o Olhar Digital.
Redator(a)
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
