Como o ‘resíduo’ viral gerado pela IA engana os fãs da vida selvagem

Shadow gentilmente coloca um pé com garras, depois o outro, em Jackie enquanto ela se agacha no ninho.

Com Big Bear Lake brilhando ao longe, ele levanta cada pé em um movimento de massagem, evocando uma massagem de águia americana.

“De uma forma ou de outra, isso diz tudo sobre o vínculo deles”, dizia a legenda. Vídeo de 15 segundos postado no Facebook.

Parece terno. Parece real.

Este não é o caso.

O clipe é gerado por IA.

Jackie e Shadow – que ficaram mundialmente famosos por um Transmissão ao vivo 24 horas – não são os únicos animais falsamente representados em deepfakes. Vídeos de IA sobre vida selvagem inundaram plataformas de mídia social como YouTube, Instagram e TikTok, acumulando milhões de visualizações e curtidas. Alguns são excêntricos, como um punhado de coelhinhos pulando em uma cama elástica. Outros assumem um tom mais ameaçador, como onça enfrentando um cachorro em um jardim nevado.

Longe de serem inofensivos, alguns especialistas dizem que os vídeos podem distorcer a forma como as pessoas veem e até interagem com a vida selvagem, levando potencialmente a encontros perigosos. Eles também podem danificar a imagem dos telespectadores. desejo crescente de ouvir a natureza para escapar dos ritmos frenéticos da vida diária. A exposição repetida pode minar a confiança na mídia e nas instituições em geralcom um usuário do Reddit proclamando“Não consigo nem assistir a vídeos de animais reais porque 90% deles são baseados em IA.” Existem também implicações legais.

O engano funciona porque as representações são muitas vezes hiperrealistas. O mesmo produtor da Dodo, mídia focada em animais, admitiu ter se apaixonado coelhos saltitantes. Muitas vezes, os vídeos parecem vir de câmeras de vigilância ou de segurança, o que aumenta a atmosfera de autenticidade. Numa economia competitiva, para chamar a atenção das pessoas, os vídeos podem ajudar ganhe looks e curtidaspotencialmente gerando receitas de publicidade para aqueles que os publicam.

Megan Brief, coordenadora de marketing digital da Natural Habitat Adventures, uma empresa de ecoturismo, tinha acabado de regressar de Svalbard, um remoto arquipélago norueguês repleto de ursos polares e morsas.

Seu feed de mídia social estava repleto de vídeos e mais vídeos de resgates de ursos polares, como pescadores ou cientistas carregando um filhote de urso polar congelado e lutando para um barco. A bordo, as pessoas tiraram selfies com o pequeno antes de reencontrá-lo com a mãe.

Ela sabia que eram falsos porque conhecia o comportamento dos predadores brancos como a neve, que protegem ferozmente os filhotes. Como alerta o Serviço de Pesca e Vida Selvagem dos EUA, estes “carnívoros grandes e poderosos” podem facilmente ferir ou matar pessoas. Também seria ilegal intervir.

Mas milhares de comentaristas consideraram o que viram pelo valor nominal.

“Isso mostra que você pode ter essa proximidade com a vida selvagem que não é apenas perigosa para você, mas também para o animal”, disse Brief, que também é fotógrafo de vida selvagem. As redes sociais são repleto de resgates de animais com IA de todos os tipos.

“É o sonho de todos ser um com todos os animais e com a vida selvagem”, acrescentou ela, “mas temos de respeitar o seu habitat e o seu comportamento e dar-lhes o espaço de que necessitam”.

Por outro lado, ela disse que os vídeos também podem perpetuar mitos de que predadores como lobos e leões da montanha são mais perigosos do que realmente são. É fácil ver como os vídeos podem alimentar debates acalorados sobre o manejo desses animais, na Califórnia e em outros lugares.

Em um papel Publicados em setembro passado na revista “Conservation Biology”, os pesquisadores disseram que os vídeos também podem levar as pessoas a acreditar que os animais são mais abundantes ou menos ameaçados do que realmente são. Como resultado, eles podem doar ou se voluntariar menos.

“Se o público for incapaz de distinguir entre ameaças reais à biodiversidade e narrativas ficcionais, a urgência percebida para agir poderá diminuir”, escrevem os investigadores.

Jenny Voisard, gerente de mídia e site da Friends of Big Bear Valley, uma organização sem fins lucrativos que opera câmeras voltadas para Jackie e Shadow, disse que sua caixa de entrada estava sobrecarregada com reclamações sobre conteúdo de IA. Os golpistas não são novidade – a organização sem fins lucrativos já existe há muito tempo lutando com contas falsas – mas eles evoluíram com a tecnologia.

As pessoas que seguem as queridas águias recebem mais conteúdo sobre elas por meio do algoritmo, e ela disse que a IA está no topo do feed. (Isso parece explicar por que esse jornalista costuma receber ofertas falsas quando abre o Facebook.)

“As pessoas ficam muito chateadas quando veem alguém retratando Jackie e Shadow de uma forma não natural ou errada, ou quando parece que eles podem estar em perigo”, disse Voisard. Alguns clipes mostraram corujas e corvos atacando o casal, irritando principalmente os fãs.

A organização sem fins lucrativos registrou recentemente seu nome e está em processo de proteção dos direitos autorais de sua transmissão ao vivo. Ela disse que o objetivo é proteger o que eles criam, como mercadorias e um registro detalhado do que as águias fazem, dos falsificadores.

No entanto, a propriedade na era da IA ​​é difícil. Voisard disse que sua transmissão ao vivo poderia ser protegida por direitos autorais porque não era apenas uma câmera fixa; os humanos o operam e fazem escolhas, como o zoom.

Kristelia García, professora da Georgetown Law, disse que essas escolhas criativas proporcionam aos operadores de transmissão ao vivo boas reivindicações de direitos autorais. Se algo viola isso é outra questão.

Se alguém pedir a um grande modelo de linguagem para criar um vídeo de três minutos apresentando águias sem depender de material protegido por direitos autorais, não haverá dano ou falta, disse ela. Mas se eles alimentarem o programa de IA com imagens da organização sem fins lucrativos e pedirem para manipulá-las, isso poderá dar origem a uma reclamação de violação.

Mas valeria a pena lutar por isso? “Os litígios de direitos autorais são muito caros e imprevisíveis”, disse García, que se concentra na legislação de direitos autorais. Ela suspeita que somente se houvesse muito dinheiro em jogo uma organização sem fins lucrativos estaria disposta a assumir o risco.

Quanto às preocupações com a desinformação, “na verdade não temos nenhum recurso legal para, tipo, ‘Você foi enganado’”, disse ela. Pessoas famosas têm certas proteções em relação ao seu nome, imagem e semelhança, mas os animais famosos não.

O vídeo falso de Shadow “massageando” Jackie lança uma luz positiva sobre as águias. Sem dúvida, perpetua a história de amor das aves que Friends of Big Bear Valley descreve em seus próprios artigos.

Ainda assim, Voisard acredita que as pessoas estão recorrendo cada vez mais a transmissões ao vivo de animais para escapar da artificialidade. Ironicamente, a IA pode levar as pessoas à verdadeira natureza precisamente porque não consegue replicá-la.

“A transmissão ao vivo não é natural, mas é a coisa mais próxima disso para muitas pessoas”, disse ela. “Estar ao ar livre é o melhor para nós, para a nossa saúde e bem-estar, e para estabelecer essa conexão. Para mim, IA não é isso.”