O Google suspendeu temporariamente a criação de imagens de pessoas pela inteligência artificial (IA) do Gemini, após relatos de erros em representações raciais e históricas nos conteúdos. A informação foi confirmada na última sexta-feira (23).
Em atividade desde o início de fevereiro, quando a tecnologia ainda se chamava Bard, a ferramenta do Google cria imagens a partir das descrições de textos, feitas por usuários. No entanto, foram relatadas diversas imprecisões nos materiais gerados.
Notícias Relacionadas
Um dos mais polêmicos, por exemplo, foi uma solicitação de imagens de soldados alemães nazistas em 1943. Um usuário mostrou que a resposta do Gemini foi com representações de homens negros e uma mulher asiática. Em outra situação, a ferramenta gerou imagens de pessoas negras e indígenas como “Pais Fundadores” (Founding Fathers) dos Estados Unidos, sendo que são todos homens brancos.
“Reconhecemos o erro e pausamos temporariamente a geração de imagens de pessoas no Gemini enquanto trabalhamos em uma versão melhorada”, afirmou o Google no X (antigo Twitter).
Segundo a gigante da tecnologia, a sua IA generativa sofre com “alucinações”, fenômeno comum que pode afetar ferramentas. Deste modo, o robô acaba gerando respostas sem sentido, tendenciosas ou imprecisas.
A companhia também contou que os ajustes falharam, não levando em consideração as situações nas quais não deveriam mostrar aquela terminada gama e o gerador teria se tornado “mais cauteloso”, recusando-se a responder certas solicitações.
No entanto, a equipe afirma que o Gemini é capaz de fazer as melhores avaliações de segurança de uma IA já criada por eles, e que o objetivo é evitar conteúdo violento ou estereotipado. Logo, o Google garantiu melhorias no sistema e anunciou que haverá novos testes extensivos antes de estar disponível novamente.
Notícias Recentes
Participe de nosso grupo no Telegram
botão abaixo para acessar as novidades.
