Meta possui plataformas de mídia social, incluindo Fb e Instagram
JRdes/Shutterstock
Em 2024, a Meta permitiu mais de 3.300 anúncios pornográficos – muitos deles apresentando conteúdo gerado por IA – em suas plataformas de mídia social, incluindo Fb e Instagram.
As descobertas vêm de um relatório por Análise forense de IAuma organização europeia sem fins lucrativos focada na investigação de algoritmos de plataformas tecnológicas. Os pesquisadores também descobriram uma inconsistência nas políticas de moderação de conteúdo do Meta ao reenviar muitas das mesmas imagens explícitas das postagens padrão no Instagram e no Fb. Ao contrário dos anúncios, essas postagens foram rapidamente removidas por violarem os princípios do Meta. Padrões da Comunidade.
“Estou decepcionado e não surpreso com o relatório, visto que minha pesquisa já expôs padrões duplos na moderação de conteúdo, especialmente no domínio do conteúdo sexual”, diz Carolina São no Centro para Cidadãos Digitais da Northumbria College, no Reino Unido.
O relatório AI Forensics concentrou-se numa pequena amostra de anúncios dirigidos à União Europeia. Descobriu-se que os anúncios explícitos permitidos pelo Meta visavam principalmente homens de meia-idade e mais velhos com promoções de “produtos de aprimoramento sexual duvidosos” e “websites de encontros”, com um alcance complete de mais de 8,2 milhões de impressões.
Essa permissividade reflete um duplo padrão mais amplo na moderação de conteúdo, diz Are. As plataformas tecnológicas muitas vezes bloqueiam conteúdo de e para “mulheres, mulheres que se apresentam e usuários LGBTQIA+”, diz ela. Esse duplo padrão se estende à saúde sexual masculina e feminina. “Um exemplo é a lingerie e os anúncios relacionados ao período sendo (removidos) do Meta, enquanto os anúncios de Viagra são aprovados”, diz ela.
Além de encontrar imagens geradas por IA nos anúncios, a equipe da AI Forensics também descobriu deepfakes de áudio: em alguns anúncios de medicamentos para aumentar a sexualidade, por exemplo, imagens pornográficas foram sobrepostas à voz manipulada digitalmente do ator Vincent Cassel.
“A Meta proíbe a exibição de nudez ou atividade sexual em anúncios ou postagens orgânicas em nossas plataformas e estamos removendo o conteúdo violador que foi compartilhado conosco”, disse um porta-voz da Meta. “Os malfeitores estão constantemente evoluindo suas táticas para evitar a fiscalização, e é por isso que continuamos a investir nas melhores ferramentas e tecnologia para ajudar a identificar e remover conteúdo violador.”
O relatório coincide com o anúncio do CEO da Meta, Mark Zuckerberg, de que a empresa será livrando-se de suas equipes de verificação de fatos em favor de notas comunitárias de crowdsourcing.
“Se quisermos parecer realmente distópicos – e nesta fase, dada a última decisão de Zuckerberg de remover os verificadores de fatos, acho que temos motivos para isso – podemos até dizer que o Meta é tão rápido em retirar usuários individuais e marginalizados de sua agência quanto é tirar dinheiro de anúncios duvidosos”, diz Are.
Tópicos:
