Os influenciadores digitais que não existem

Os influenciadores digitais que não existem 1024 680 Instituto Palavra Aberta

*Mariana Mandelli é coordenadora de comunicação do Instituto Palavra Aberta

A espanhola Aitana Lopez vive em Barcelona e ganha a vida como influenciadora digital fitness, compartilhando sua rotina de treinos e passeios nas redes sociais para mais de 400 mil seguidores. Tem cerca de 26 anos, é do signo de escorpião, mantém as madeixas pintadas de rosa e tem um corpo exatamente de acordo com os padrões estéticos socialmente impostos. Mas Aitana não existe: ela foi criada por meio de ferramentas hiper-realistas de inteligência artificial generativa.

Em seu perfil no Instagram, a bio diz: “criadora de conteúdo de IA; fitness e estilo de vida virtuais”. Há o nome da empresa que a representa — na verdade, a agência que a criou — e a indicação de que é uma embaixadora da OpenArt, uma plataforma de IA. Para grande parte da audiência, isso pode não ser suficiente para entender que a moça nas fotos na academia e no litoral europeu é simplesmente uma ficção.

Influencers criados por IA não são exatamente uma novidade, mas vêm tomando as mídias sociais com mais força nos últimos dois anos. Se há uma década víamos figuras como a robô Miquela, considerada uma das primeiras do tipo, exibir-se para os seus mais de 2 milhões de seguidores nas mídias sociais, hoje o cenário está muito mais complexo.

Isto porque, além da nossa experiência virtual ter se plataformizado significativamente, o que fomentou a criação de um mercado de influência digital, o avanço expressivo da IA tem alterado a nossa noção de realidade. E, nessa conjuntura, não podemos esquecer da avalanche de desinformação a que somos submetidos diariamente.

Essa equação pode ser extremamente perigosa se olharmos para os nichos desses influenciadores irreais. Um levantamento recente da organização sem fins lucrativos CTRL+Z encontrou, no YouTube, 29 canais em língua portuguesa de médicos criados por IA. Os dados mostram que os vídeos publicados nesses perfis ultrapassavam 70 milhões de visualizações. Após uma reportagem da BBC Brasil denunciar o problema, alguns perfis foram excluídos pela plataforma por ferir as suas diretrizes.

É preciso considerar também os riscos da disseminação dessa prática em período eleitoral, com avatares sintéticos que imitam eleitores comuns e influenciam o voto de quem os assiste. Neste ano, o Observatório IA nas Eleições, uma iniciativa da Data Privacy Brasil e do Aláfia Lab, revelou 18 perfis desse tipo. Criados para falar sobre política e gerar identificação com o eleitorado, 61% desses avatares — entre os quais o mais emblemático se chama Dona Maria, no Instagram — não tinham identificação alguma relacionada a terem sido criados por IA. Ademais, 78% deles divulgavam discursos falaciosos sobre os candidatos ao pleito deste ano ou sobre o processo democrático.

Ao ameaçar a integridade das informações que produzimos e consumimos, os influenciadores fotorrealistas escancaram a complexidade do ecossistema digital atual. O combate aos riscos que muitos deles oferecem requer vigilância rigorosa de governos e empresas de tecnologia, aliada a iniciativas urgentes de educação digital e midiática que ultrapassem os muros das escolas. Ainda que algumas dessas figuras pareçam inofensivas, é fundamental compreendermos o que (e quem) está por trás das telas.

No fim das contas, o perigo não é apenas a existência desses avatares sintéticos, mas a opacidade em torno deles. Sem sinalização clara de IA e sem letramento digital, o público pode ficar cada vez mais vulnerável. Se muitos influencers de carne e osso já divulgam discursos e serviços extremamente questionáveis e até antiéticos, não seria diferente com aqueles que não existem materialmente. Por isso, exigir transparência e educar a população já deixaram, há tempos, de ser uma opção para a saúde dos ambientes informacionais e para a sustentabilidade da democracia. 

    Utilizamos cookies e outras tecnologias semelhantes para melhorar a sua experiência em nossa plataforma. Ao continuar navegando, você concorda com as condições previstas na nossa Política de Privacidade.