Por Priscilla Arantes, gerente de comunicação do Sistema B Brasil, e articuladora do Coletivo Pretas B.
O uso da inteligência artificial (IA) para gerar imagens tem se tornado uma tendência recorrente nas redes sociais. Essa inovação tecnológica tem movimentado a produção de conteúdo e proporciona aos usuários a oportunidade de experimentar diferentes aparências, emulando personagens de desenhos animados ou de filmes famosos. Contudo, essa prática trouxe à tona questões importantes relacionadas à diversidade e à equidade racial.
Notícias Relacionadas
A tendência mais recente, que envolve a utilização da plataforma Bing da Microsoft para criar imagens semelhantes aos personagens da Disney Pixar, ilustra a complexidade da IA na representação racial. Muitos usuários, principalmente pessoas negras, expressaram ter dificuldades para criar personagens que refletissem fielmente suas características físicas, principalmente, o tipo de cabelo e o tom de pele.
A IA, em muitos casos, parece favorecer um fenótipo mais alinhado ao padrão branco, reforçando, involuntariamente, preconceitos e estereótipos enraizados na sociedade. Ao solicitar imagens de pessoa negra sem especificar a cor dos olhos, por exemplo, a IA gerou imagens de personagens negras com olhos azuis. O cabelo crespo ou cacheado também surge com raiz lisa e aspecto de um cabelo modificado no salão. Para chegar mais perto da aparência real, é preciso investir em dezenas de tentativas. Eu mesma, fiz aproximadamente 60 descrições para conseguir personagens mais próximos das minhas características, e não alcancei o meu peso, todas as imagens criadas são de mulheres magérrimas.
Alguns incidentes chegam a ser ainda mais problemáticos. Um caso que chamou atenção envolveu a deputada estadual Renata Souza (PSOL), do Rio de Janeiro. Ao solicitar à ferramenta a criação de “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”, o resultado entregue a ela foi a imagem de uma mulher negra com uma arma de fogo nas mãos. Esse erro da IA levanta sérias preocupações, pois não apenas perpetua estereótipos negativos associados à população negra, mas também coloca em evidência a necessidade urgente de melhorias na programação dessas ferramentas.
Um dos principais desafios da IA reside na representação. Para que uma IA seja capaz de gerar imagens mais inclusivas e precisas, é crucial que haja uma coleta de dados mais diversificada, abrangendo uma ampla gama de características raciais, étnicas e culturais. Isso fornecerá à IA uma base mais sólida para entender e representar diferentes grupos.
É imperativo que os algoritmos de IA sejam projetados com sensibilidade à raça. Isso significa considerar não apenas a diversidade de características físicas, mas também as culturais para garantir que os resultados não perpetuem preconceitos ou estereótipos raciais.
As empresas que desenvolvem as ferramentas de IA devem priorizar a realização de testes rigorosos e revisões éticas para identificar e corrigir possíveis vieses raciais ao disponibilizarem a tecnologia ao público. Isso exige um compromisso contínuo com a equidade racial e a disposição de corrigir erros quando eles ocorrerem.
A transparência em relação às limitações de IA deveriam ser compartilhadas pelas empresas, que poderiam ainda envolver a comunidade em discussões sobre como melhorar essas ferramentas. As próprias redes sociais que abrigam as imagens criadas tem funcionado como espaço para o debate e desabafo. A voz das pessoas afetadas pode e deve ser ouvida e respeitada.
A IA tem o potencial de ser uma ferramenta poderosa para a criatividade e a diversão, desde que seja desenvolvida com sensibilidade e responsabilidade. É doloroso e uma nova forma de exclusão, ver todo mundo brincando nas redes sociais e não poder entrar na brincadeira. Resolver questões de equidade racial na criação de imagens por meio de IA requer um esforço conjunto das empresas, dos desenvolvedores e da sociedade em geral. É um desafio que, quando enfrentado de maneira eficaz, promoverá uma representação mais inclusiva de todos nas redes sociais e, consequentemente, no mundo.
Notícias Recentes
Participe de nosso grupo no Telegram
botão abaixo para acessar as novidades.