12. Além (e aquém) do fake

Victor Moussa – ShutterStock

Nesse módulo, você vai aprender como os avanços tecnológicos permitiram a criação de conteúdo falso muito profissional, com vídeos capazes de enganar até especialistas. Por outro lado, vamos discutir a explosão de conteúdos bem toscos, fáceis de criar e bastante sedutores ao adotar uma linguagem amadora. Você vai ver os desafios para detectar esses novos formatos. E, no final, vamos testar suas habilidades para não ser enganado por conteúdos que não seguem o modelo tradicional das fake news – e ainda deixam muita gente confusa.

Caramba… foi bem mals
Caramba… foi razoável
Caramba… foi muito bem
Anton Khrupin – ShutterStock

Para acreditar em algo, muita gente prefere ver com seus próprios olhos. Mas e quando os seus olhos te enganam?

Quem assistiu ao filme “O curioso caso de Benjamin Button” viu o rosto do ator Brad Pitt em um corpo de idoso, um bebê com rosto de velhinho e muitas outras imagens inacreditáveis. Mas estava bem claro para todos que era só a magia do cinema em ação: usando tecnologia, a equipe de efeitos especiais inseriu digitalmente o rosto do astro nas cenas com atores mais velhos e com bebês. A equipe responsável por esse milagre investiu milhões de dólares nesse processo, passou meses tratando as imagens e, no final, ganhou até um Oscar.

Isso foi em 2008. Dez anos depois, com o avanço (e o barateamento) da tecnologia, um simples aplicativo de celular é capaz de trocar rostos em imagens em movimento com qualidade assombrosa – e em tempo real!

Criar cenas que nunca aconteceram com qualidade de cinema está ao alcance dos dedos de qualquer um. Não precisamos mais de um estúdio de Hollywood para construir essas imagens inacreditáveis – os computadores podem manipular automaticamente vídeos de forma a colocar qualquer rosto em outro corpo.

Para fazer isso, usam uma tecnologia em que as máquinas criam modelos digitais dos rostos a partir de uma amostra de imagens – alguns vídeos de uma pessoa, por exemplo. Depois, são capazes de inserir esse modelo em outros corpos. Com muitas imagens de amostra, é possível inclusive manipular a boca desse frankenstein digital para que ele diga o que você quiser.

Com mais um simulador de voz, ou um bom imitador, pronto: você tem um personagem que pode manipular para fazer ou dizer qualquer coisa.

Esses vídeos são chamados de “deepfakes”, porque eles usam um algoritmo de “deep learning”, ou seja, de “aprendizado profundo”, que permite aos computadores “aprenderem” a manusear quantidades gigantescas de informações – por exemplo, as cores, proporções, texturas e movimentos de um determinado rosto. Uma vez que a máquina “aprende” essa lição, é capaz de adaptar esses dados em um modelo maleável.

Estudo desenvolvido por dupla de pesquisadores da Universidade Purdue, nos EUA, explica que essa tecnologia foi popularizada por meio de aplicativo desenvolvido por um usuário do site de mídia social Reddit que usava o termo “deepfakes” como seu apelido.

Alguns usuários se divertiam de forma inofensiva trocando o rosto de atores de Hollywood em filmes e colocando rostos de celebridades no corpo de bebês. Mas essa tecnologia rapidamente passou a ser usada de forma maliciosa, criando pornografia falsa com rostos de celebridades, como a atriz Gal Gadot, que interpreta a Mulher Maravilha – e até de pessoas comuns, como você, seus amigos ou familiares.

Os pesquisadores norte-americanos destacam que desde o começo surgiram preocupações de que essa ferramenta poderia ser usada para arruinar carreiras, com um impacto particularmente grande para atacar políticos durante eleições. O cineasta norte-americano Jordan Peele mostrou que a qualidade dessas imagens pode ser tão grande quanto seu impacto na reputação dos retratados, criando um vídeo falso do ex-presidente Barack Obama xingando o atual líder do país, Donald Trump.

O maior problema é que não é fácil de perceber que as imagens são falsas, e os deepfakes mais sofisticados podem confundir até especialistas. Na eleição para governador de São Paulo, em 2018, um vídeo supostamente mostrava o candidato que liderava as pesquisas na cama, nu, durante encontro sexual com três mulheres.

Alguns peritos apontaram que o vídeo apresentava sinais de manipulação, enquanto outros especialistas apontavam que não seria possível ter certeza se as imagens eram falsas ou não.

Quem é leigo no assunto tem dificuldade de identificar a fraude, mas é possível ficar alerta para alguns sinais suspeitos. Reportagem especial do UOL TAB recomenda prestar atenção em problemas de sincronização do áudio com a boca, ficar atento às proporções do rosto e diferenças de iluminação, prestando atenção se as expressões faciais são naturais ou se parecem artificiais, como um robô.

Vídeos com qualidade das imagens muito baixa são particularmente difíceis de verificar se houve ou não manipulação, e por isso merecem cuidado dobrado. E não custa lembrar: em casos de informação de interesse público, vale confirmar se a informação foi publicada em veículos jornalísticos com credibilidade. Antes de tomar qualquer decisão ou atitude drástica, precisamos de cautela para não se arrepender depois.

Finalmente, não podemos ignorar um dano colateral nessa histeria coletiva com os deepfakes. Se as fraudes estão ficando tão sofisticadas que não podemos mais acreditar nos nossos olhos, no que ainda podemos confiar?

A pesquisadora britânica Claire Wardle alerta que não devemos nos desesperar e precisamos tomar cuidado para que essa desconfiança generalizada não acabe tendo efeitos ainda mais negativos. Algum espertinho pode tentar desacreditar denúncias comprovadas com vídeos ou áudio, dizendo que é tudo falso, por exemplo.

Por enquanto fraudes sofisticadas como os deepfakes ainda são raras. É inacreditável, mas as enganações mais frequentes (e, pelo jeito, mais eficientes) continuam sendo bastante simples, toscas até – como veremos a seguir.

Caramba… foi bem mals
Caramba… foi razoável
Caramba… foi muito bem

Parece contraditório, mas ao mesmo tempo em que os conteúdos enganosos se aproveitam dos avanços tecnológicos para ficar cada vez mais sofisticados, alguns dos itens que mais viralizam são também os mais toscos. E o motivo para isso talvez seja nossa desconfiança em relação à imprensa e a valorização das informações que são passadas por pessoas como nós.

Mas vamos por partes. Em primeiro lugar, vale lembrar alguns dos conteúdos que foram mais compartilhados nas eleições de 2018. Segundo compilação da agência Aos Fatos, dos cinco conteúdos falsos mais populares no primeiro turno da eleição, quatro deles são produções bastante simples, que não demandariam nenhum conhecimento muito complexo de edição de imagens ou manipulação.

São vídeos tirados de contexto, áudios de autoria imprecisa, memes bastante simples. Outro sucesso de público que já discutimos no módulo anterior, o vídeo com a “mamadeira erótica” foi uma das quinze produções mais compartilhadas nessa lista do Aos Fatos. E é uma produção caseira bem simples: basicamente alguém se filmou, segurando o brinquedo erótico, sem muita produção nem nada.

Pelo jeito, não precisa de muitos recursos para enganar muita gente. Pelo contrário, parece que quanto mais tosco, melhor.

É justamente essa falta de sofisticação e o toque amador que dá mais força para esses conteúdos. Uma dupla de pesquisadores da PUC-Minas e da USP tenta explicar porque muitos conteúdos que recentemente viralizaram têm um aspecto simples, quase caseiro.

Para os pesquisadores, essa aparência de espontaneidade pode ser uma reação às acusações de que conteúdos falsos tem motivação partidária. O jeito meio tosco desses vídeos é uma forma de afastar qualquer impressão de que eles sejam resultado de campanhas institucionais. Ao mesmo tempo, eles parecem mais autênticos pois tem um toque caseiro, como algo que seria produzido por um amigo seu, por seu tio – ou por você mesmo.

Por parecerem mais espontâneos e autênticos, eles conquistaram a confiança de muita gente por um processo de identificação: se você vê nessas imagens alguém parecido ou próximo de sua realidade, pode acabar confiando na mensagem. Se tem a sua cara, merece a sua confiança.

E, vale destacar, nenhum desses conteúdos poderia ser classificado como “fake news” tradicionais, já que esse conceito se aplica a conteúdo que simula o formato jornalístico para enganar. É como se as fake news estivessem ficando menos “news”, e mais “fake”.

Nenhum desses conteúdos se parece com algo que a imprensa publicaria. Mas muitos têm a cara de postagens que usuários comuns publicariam em redes sociais. Mais uma vez a dupla de pesquisadores da PUC-Minas e da USP considera que isso pode estar relacionado com uma crescente desconfiança de parte do público em relação à mídia profissional.

E faz sentido: pesquisador do MIT, nos EUA, já alertava há anos que o fenômeno das fake news pode abalar a credibilidade de instituições tradicionais como a imprensa. Como o público aprendeu a dura lição que as notícias falsas imitavam o formato jornalístico, muita gente deixou de confiar em notícias de modo geral – sejam elas produzidas com trabalho sério de jornalista profissionais ou em sites falsos sem autoria nem verificação.

Para ainda continuar enganando quem já estava vacinado contra as fake news tradicionais, os fraudadores tiveram que se reinventar. Deixaram de lado a fantasia de jornalistas, e passaram a se vestir como pessoas comuns – o que, de certa forma, não deixa de ser verdade, porque muitos desses conteúdos falsos são realmente produzidos e repassados para frente por pessoas como nós.

Esse novo formato tosco é triplamente eficiente. Em primeiro lugar, é mais fácil de produzir: qualquer um pode filmar algo, ou simplesmente pegar uma imagem que já está na internet e escrever uma legenda absurda para tirar a história do contexto.

Antes, era necessário fazer um site falso, escrever um texto e manipular imagens, um trabalho para uma meia hora, no máximo. As fake news tradicionais já eram muito mais eficientes que o jornalismo tradicional, que levava várias horas para checar e refutar uma informação falsa. Mas agora em um par de minutos qualquer um cria sua própria mentira e difunde diretamente pelas redes sociais. Fica difícil para o jornalismo profissional – e mesmo as fake news tradicionais – competirem.

Além disso, por serem mais fáceis de criar, podem se multiplicar bem mais rapidamente. Entre milhares de conteúdos falsos, os mais eficientes vão ser compartilhados mais. Ao invés de investir muitos recursos na produção de um conteúdo falso sofisticado com tecnologia de ponta, é mais fácil produzir dezenas de tosqueiras amadoras e deixar o público escolher (e replicar) o melhor. É a seleção natural das redes sociais, em que os mais toscos sobrevivem e se proliferam.

Por fim, também são mais eficientes justamente porque não procuram competir em pé de igualdade com o jornalismo. As fake news tradicionais, que usavam o formato jornalístico, estavam disputando com a imprensa no terreno dela: os checadores usavam essa fragilidade para mostrar que, em comparação, a informação deles era mais contextualizada e podia ser verificada.

Mas esses novos conteúdos toscos já partem do pressuposto que muita gente nem confia mais no jornalismo, e prefere acreditar em histórias contadas por gente como a gente. Fica difícil mostrar para essas pessoas que um vídeo falso foi refutado por uma agência de checagem, se essas pessoas não confiam mais na imprensa como um todo.

A disputa saiu do terreno do jornalismo e, agora, ficou pessoal. Os conteúdos parecem produzidos por pessoas comuns: mas qual o interesse dessa galera em sair espalhando mentiras?

O problema é que, no cenário polarizado das redes sociais, a disputa por atenção – e por seu voto, em períodos eleitorais – leva muita gente comum a agir como militantes que só tem compromisso com suas bandeiras políticas. Se tiverem que passar por cima dos fatos, não terão dúvidas. E como o cenário político parece uma grande campanha eleitoral sem fim, essa disputa por corações e mentes não tem trégua.

A sacada genial desses conteúdos falsos amadores é apelar para a ingenuidade. Mas agora que já conhecemos esse novo (e tosco) fake, precisamos ter cuidado dobrado com quem se esforça para nos convencer, insistindo que “é verdade esse bilhete”.

Caramba… foi bem mals
Caramba… foi razoável
Caramba… foi muito bem

Vídeos falsos hiper-realistas que parecem saídos de um estúdio de Hollywood, mas que podem ser feitos por qualquer um em casa. Áudios sem autoria muito clara, ou produzidos por imitadores que simulam muito bem a voz de gente famosa. Perfis falsos de celebridades e jornalistas em redes sociais que enganam muitos fãs desatentos. Esses conteúdos falsos não seguem o formato jornalístico tradicional das fake news, e justamente por isso é muito mais fácil ser enganado. Nesse vídeo, mostramos quais são as novas fronteiras da enganação – e o que devemos fazer para não cair nessa.

Caramba… foi bem mals
Caramba… foi razoável
Caramba… foi muito bem

Parece, mas não é: fatos, mentiras, opiniões e conteúdo duvidoso… tudo, menos fake news!

Zephyr_p – ShutterStock

As fake news originais passaram por muitas mutações. Existem tantos formatos novos de conteúdo falso tentando te enganar, que é fácil se confundir com o que é e o que não é fake news. Nem tudo o que é falso é fake news… e muita coisa que anda sendo chamada de fake não é falsa não.

Abaixo você tem conteúdos que não são “fake news” – ou seja, aquele formato tradicional de mentiras que podem ser provadas como falsas, tentam enganar simulando o formato jornalístico e viralizam em redes sociais com autoria pouco clara. Mas isso não quer dizer que sejam necessariamente dignas de confiança. Dá para acreditar?

Você recebe uma informação surpreendente pelo Twitter, publicada por Renata Vasconcellos. Esse é o nome de uma jornalista da Rede Globo que você conhece, mas o nome do usuário parece um pouco estranho: @renatacellore1

Correto!

Errado!

Resposta certa: a. É um caso de perfil impostor, que tenta enganar ao se passar por alguém conhecido e digno de confiança. Esse caso é real, e essa conta já foi banida pelo Twitter. Mas não dá para confundir com fake news: apesar de ser um perfil jornalístico, a informação em si não imita uma notícia. A agência Aos Fatos já desmascarou dezenas de perfis falsos que tentavam se fazer passar por jornalistas e veículos de comunicação – várias delas já foram banidas. E essa praga não pegou só na imprensa: celebridades e políticos também sofrem com perfis falsos.
Por um grupo do WhatsApp, você ouve um áudio do ator Miguel Falabella avisando que Haddad presidente seria um “pesadelo”

Correto!

Errado!

Resposta certa: a. Repassar áudios por WhatsApp virou mania nacional. Já verificar a fonte e checar se a informação é verdadeira, pelo jeito, é uma moda que infelizmente ainda não pegou. Esse é um dos muitos casos de áudios falsos. Nesse arquivo de som, alguém imita (bem mal, diga-se de passagem) a celebridade para tentar enganar o ouvinte. Mas há também casos de personagens inventados, como o presidente fictício do igualmente inexistente "Sindicato dos Caminhoneiros do Brasil" que ameaçou novas paralisações em maio de 2018. E há muita confusão, com áudios de uma pessoa atribuída para outra, como no caso da defesa do voto em Bolsonaro feita pelo apóstolo Rina, da igreja Bola de Neve, que foi divulgada como sendo do Padre Marcelo Rossi. Apesar de falso, não dá para confundir com “fake news”, porque essas declarações não seguem o formato jornalístico – ou seja, não são nem “news”, só “fake” mesmo.
Candidata a presidente alerta que metade dos leitos do SUS estão ociosos

Correto!

Errado!

Resposta certa: b. Esse é um caso difícil. Em entrevista ao site G1 e à rádio CBN, a então candidata a presidente Marina Silva criticou a gestão da saúde pública do Brasil, afirmando que o Sistema Único de Saúde (SUS) tinha “50% dos leitos ociosos”. Mas essa é uma informação que não existe nas estatísticas do governo – o que por si só já seria um mal sinal sobre a gestão pública desse sistema – e os assessores de Marina também não souberam apontar para os checadores da agência Pública de onde ela tirou essa informação. Se não dá para confirmar uma informação, não podemos dizer que ela seja falsa, mas também não dá para provar que ela é verdadeira. Se não temos confiança no número, não deveríamos usá-lo nessa discussão. Mas não dá para confundir com fake news: a entrevista era verdadeira, e Marina realmente disse isso. Se era verdade ou não, é um engano do entrevistado que deve ser contestado ou confirmado pelos jornalistas. Ou seja, não temos como provar se a informação é verdadeira ou não... mas fake news, com certeza não é.
Mapa compartilhado em redes sociais sugere que Amazonas tem 100 mil ONGs, enquanto Nordeste não tem nenhuma
a-) Não acredito de jeito nenhum!
b-) Não sei: é sério isso
c-) Não é fake.

Correto!

Errado!

Resposta certa: a. Essa imagem viralizou depois da série de queimadas no Norte e no Centro-Oeste, além de incêndios em países vizinhos como Bolívia e Paraguai. A ideia era desacreditar as organizações não-governamentais que denunciavam crimes ambientais na região. É um meme, uma dessas imagens feitas para compartilhar, mas não pode ser confundido com uma “fake news” porque não tem formato jornalístico. Ainda assim, a informação citada (sem fonte, lógico) está completamente incorreta: verificação da agência Lupa com dados do IBGE mostra que o estado do Amazonas apresenta 1.462 ONGs, enquanto os estados do Nordeste somam 44,4 mil dessas entidades.
Link no Facebook aponta que presidente dos EUA chamou a duquesa Meghan Markle de “desagradável”

Correto!

Errado!

Resposta certa: c. Em entrevista publicada pelo diário britânico The Sun, o presidente dos EUA, Donald Trump, usou o termo “desagradável” para se referir a Meghan Markel, norte-americana que se casou com o Príncipe Harry. Ele depois tuitou uma recusa, dizendo que não tinha dito isso e que era uma “fake news” de outros veículos de mídia dos EUA como o canal CNN e o jornal The New York Times. Mas o áudio da entrevista revela que ele realmente usou esse termo para se referir a ela. Tentar desacreditar informações verdadeiras é uma estratégia recorrente de políticos como Trump para desacreditar seus críticos e denúncias publicadas na imprensa, como mostra compilação do Washington Post.
Chamada publicada pelo Twitter afirma que jornais americanos criticam ataques de Trump contra liberdade de imprensa

Correto!

Errado!

Resposta certa: c. Aqui estamos no campo da opinião. O que pode ser verificado é o fato de que mais de 300 jornais norte-americanos publicaram editoriais criticando ataques de Trump contra a imprensa. Trump depois disse que ele defende a liberdade de expressão, e classificou essas publicações como “fake news”. Ele pode não considerar seu comportamento uma ameaça – e pode discordar da avaliação da imprensa sobre isso – mas não pode descartar a opinião dos articulistas como “fake news”. Afinal, as pessoas podem ter opiniões diferentes – mas não podem ter seus próprios fatos. Assim como no caso anterior, esse caso faz parte da estratégia de Trump para desviar a atenção do público, desacreditar denúncias e descartar críticas como simples “fake news”, um processo estudado por uma dupla de pesquisadores da Austrália e do Japão.
Gráfico compartilhado pelo WhatsApp indica que entre 2011 e 2016 o consumo do governo aumentou mais de 4%, enquanto o das famílias teria reduzido 1%
a-) Não acredito de jeito nenhum!
b-) Não sei: é sério isso?
c-) Não é fake.

Correto!

Errado!

Resposta certa: a. Bonitinho, mas ordinário. Parte do esforço em fazer esse gráfico charmoso poderia ter sido usado para verificar a informação, que está completamente errada. A agência Lupa checou essa imagem, uma das mais compartilhadas pelo WhatsApp nas eleições, e explica que o consumo das famílias não diminuiu, mas subiu 1,8%, enquanto o do governo subiu 3,1%, menos do que o indicado na imagem. As duas informações estão erradas, mas também não podemos nos confundir e dizer que essa imagem é uma “fake news”, porque mais uma vez ela não segue o formato jornalístico. É simplesmente uma mentira, ainda que embalada em um gráfico vistoso.
Caramba… foi bem mals
Caramba… foi razoável
Caramba… foi muito bem
MyraMyra – ShutterStock

Confira a seguir os principais estudos e reportagens citados neste capítulo, além de outras obras para se aprofundar mais:

– Quer saber mais sobre deepfakes? Esse artigo da Draft explica de onde eles vieram, e esse especial multimídia do UOL sinaliza para onde eles podem nos levar.

– Quer descobrir como combater esses vídeos falsos? Os pesquisadores David Güera e Edward J. Delp apresentam proposta (em inglês) no artigo “Deepfake Video Detection Using Recurrent Neural Networks” para detectar essas fraudes de forma tão automática quanto elas são criadas

– Quer refletir por que motivo as fake news tradicionais erodiram a confiança em instituições tradicionais, como o jornalismo? Esse artigo (em inglês) do pesquisador Ethan Zuckerman, do MIT, explica como regimes autoritários atuais estão retomando uma antiga estratégia soviética de desinformação.

– Quer entender como humor, memes e vídeos bizarros ocuparam o espaço do jornalismo falsificado como forma de enganar? Os pesquisadores Marcio Serelle e Rosana de Lima Soares avaliam a força de convencimento pela autenticidade em conteúdos amadores no artigo “As novas formas do falso: entretenimento, desinformação e política nas redes digitais”.

– Percebeu que ao invés de ficarem mais complexos os conteúdos falsos de maior sucesso são justamente os mais toscos? Mas quer saber por que os conteúdos falsos não são mais necessariamente “notícias” falsas? Rodrigo Ratier, professor da Faculdade Cásper Líbero – e um dos criadores do Vaza, Falsiane! – discute nesse artigo por qual motivo “As fake news estão cada vez mais fake e menos news”.

– Ainda não compreendeu o perigo de chamar de fake news o que não é? Os pesquisadores Andrew Ross e Damian J. Rivers explicam como o presidente dos EUA utiliza essa estratégia para desacreditar quem critica (ou denuncia) seu governo no artigo (em inglês) “Discursive Deflection: Accusation of ‘Fake News’ and the Spread of Mis- and Disinformation in the Tweets of President Trump”.

Caramba… foi bem mals
Caramba… foi razoável
Caramba… foi muito bem

Nos testes abaixo, assinale a alternativa que parece ser a mais correta:

Um vídeo que você recebeu pelo WhatsApp mostra um político pegando um maço de dinheiro da mesa e colocando no bolso. A legenda informa que ele está roubando dinheiro que seria destinado para a compra de medicamentos em um hospital público.

Correto!

Errado!

Resposta certa: c. Com o avanço da tecnologia de edição de imagem, é possível colocar o rosto de um político em um vídeo com uma qualidade que pode enganar até especialistas – como você pode relembrar aqui. Mas isso não garante que seja necessariamente falso, assim como a imagem sozinha não prova a acusação feita. Não podemos ignorar o truque manjado da imagem fora do contexto: o vídeo pode simplesmente mostrar alguém guardando o seu dinheiro no bolso, sem nenhuma conexão com a denúncia. Por isso, é importante procurar informações sobre o contexto em que a imagem foi produzida e quem garante sua validade – o que é difícil de fazer com os vídeos repassados em corrente por redes sociais.
Um colega seu compartilha um vídeo que mostra um livro pornográfico com imagens bastante explícitas. Você não sabe quem está filmando e não reconhece a voz do homem que explica que esse livro foi retirado da biblioteca de uma escola infantil por uma criança de cinco anos.

Correto!

Errado!

Resposta certa: a. Infelizmente muitos conteúdos falsos se tornam extremamente popular porque parecem ser produzidos por pessoas comuns - como você pode relembrar aqui. Isso é resultado da crescente desconfiança em veículos jornalísticos tradicionais – que são justamente uma boa fonte para verificar esse tipo de boato. A dificuldade em identificar a autoria é um problema em muitos conteúdos virais, pois fica complicado de saber quem se responsabiliza pelo que é veiculado, mas muitas vezes informação anônima pode ser verdadeira: reportagens importantes já partiram de denúncias de gente com medo de se expor para mostrar abusos graves.
Caramba… foi bem mals
Caramba… foi razoável
Caramba… foi muito bem

Faça o curso completo

@2018 Vaza, Falsiane