Como o Youtube ajudou a educar politicamente os jovens da direita radical
Por Max Fisher and Amanda Taub*
Quando Matheus Dominguez tinha 16 anos, o YouTube recomendou um vídeo que mudou sua vida.
Ele estava em uma banda em Niterói, uma cidade cercada de praias no Brasil, e praticava guitarra assistindo tutoriais online.
O YouTube instalou recentemente um novo e poderoso sistema de inteligência artificial que aprendeu com o comportamento do usuário e emparelhava vídeos com recomendações para outras pessoas. Um dia, ele o dirigiu a um professor de violão amador chamado Nando Moura, que conquistou muitos seguidores ao postar vídeos sobre heavy metal, videogames e, acima de tudo, política.
Em discursos de extrema-direita, paranóicos e coloridos, Moura acusou feministas, professores e políticos de travar grandes conspirações. Dominguez estava fisgado.
Como o tempo dele no site cresceu, o YouTube recomendou vídeos de outras figuras de extrema-direita. Um deles era um legislador chamado Jair Bolsonaro, então uma figura marginal na política nacional – mas uma estrela da comunidade de extrema-direita do YouTube no Brasil, onde a plataforma passou a ser mais assistida do que todos os canais de TV, exceto um.
No ano passado, ele se tornou presidente Bolsonaro.
“O YouTube se tornou a plataforma de mídia social da direita brasileira”, disse Dominguez, agora com 17 anos de idade, que diz que também planeja buscar um cargo político.
Membros da extrema-direita recém-empossada da nação – de organizadores de base a legisladores federais – dizem que seu movimento não teria aumentado tanto, tão rápido, sem o mecanismo de recomendação do YouTube.
Uma nova pesquisa descobriu que eles podem estar corretos. O sistema de pesquisa e recomendação do YouTube parece ter desviado sistematicamente os usuários para canais de extrema direita e de conspiração no Brasil.
Uma pesquisa do New York Times no Brasil descobriu que, repetidamente, os vídeos promovidos pelo site derrubaram elementos centrais da vida cotidiana.
Professores descrevem as salas de aula descontroladas por alunos que citam vídeos de conspiração do YouTube ou que, incentivados por estrelas do YouTube de direita, gravam secretamente seus instrutores.
Alguns pais olham para “Dr. YouTube” para conselhos de saúde, mas, em vez disso, obtém informações erradas perigosas, dificultando os esforços do país para combater doenças como o Zika. Vídeos virais têm incitado ameaças de morte contra os defensores da saúde pública.
E na política, uma onda de estrelas do YouTube de direita correu para o escritório ao lado de Bolsonaro, alguns vencendo por margens históricas. A maioria ainda usa a plataforma, governando a quarta maior democracia do mundo por meio de trollagem e provocação pela Internet.
O sistema de recomendações do YouTube foi desenvolvido para maximizar o tempo de exibição, entre outros fatores, diz a empresa, mas não para favorecer qualquer ideologia política. O sistema sugere o que assistir a seguir, muitas vezes reproduzindo os vídeos automaticamente, em uma busca incessante para nos manter colados em nossas telas.
Mas as emoções que atraem as pessoas – como medo, dúvida e raiva – são muitas vezes características centrais das teorias da conspiração e, em particular, dizem os especialistas, do extremismo de direita.
Como o sistema sugere vídeos mais provocativos para manter os usuários observando, ele pode direcioná-los para conteúdos extremos que, de outra forma, nunca encontrariam. E é projetado para levar os usuários a novos tópicos que despertem novos interesses – um benefício para canais como o de Moura, que usam a cultura pop como porta de entrada para ideias de extrema-direita.
O sistema agora leva 70% do tempo total na plataforma, diz a empresa. À medida que a audiência sobe globalmente, o YouTube está atraindo mais de U$1 bilhão por mês, acreditam alguns analistas.
Zeynep Tufekci, uma estudiosa das redes sociais, o chamou de “um dos mais poderosos instrumentos de radicalização do século 21”.
Representantes do YouTube contestaram a metodologia dos estudos e disseram que os sistemas da plataforma não privilegiam nenhum ponto de vista nem direcionam os usuários para o extremismo. No entanto, alguns representantes da empresa admitiram algumas das descobertas e prometeram fazer mudanças.
Farshad Shadloo, um porta-voz, disse que o YouTube “investiu pesadamente nas políticas, recursos e produtos” para reduzir a disseminação de desinformação prejudicial, acrescentando: “vimos que o conteúdo autoritário está prosperando no Brasil e são alguns dos conteúdos mais recomendados no site.”
Danah Boyd, fundadora do grupo de pesquisa Data & Society, atribuiu a disruptura no Brasil ao esforço implacável do YouTube para o envolvimento do espectador e as receitas que ele gera.
Embora escândalos de corrupção e uma profunda recessão já tivessem devastado o establishment político do Brasil e deixado muitos brasileiros prontos para romper com o status quo, Boyd chamou o impacto do YouTube de uma indicação preocupante do crescente impacto da plataforma nas democracias em todo o mundo.
“Isso está acontecendo em todos os lugares”, disse ela.
O Partido YouTube
Ele estava matando o tempo no site um dia, quando a plataforma mostrou a ele um vídeo de um blogueiro de direita. Ele assistiu por curiosidade. Mostrou-lhe outro e depois outro.
“Antes disso, eu não tinha um histórico político ideológico”, disse Martins. As recomendações de reprodução automática do YouTube, declarou ele, eram “minha educação política”.
“Foi assim com todos”, disse ele.
A influência política da plataforma é cada vez mais sentida nas escolas brasileiras.
“Às vezes, estou assistindo a vídeos sobre um jogo e, de repente, é um vídeo de Bolsonaro”, disse Inzaghi D., um estudante de 17 anos que mora em Niterói.
Cada vez mais seus colegas estão fazendo declarações extremistas, muitas vezes citando como evidência que estrelas do YouTube como Moura, o guitarrista que se tornou conspirador.
“É a principal fonte que as crianças têm para obter informações”, disse ele.
Poucos ilustram melhor a influência do YouTube do que Carlos Jordy.
Musculoso e fortemente tatuado – sua mão esquerda tem um crânio flamejante com olhos de diamante – ele se juntou à Câmara Municipal do Rio de Janeiro em 2017, com poucas perspectivas de subida através da política tradicional. Então, Jordy se inspirou em blogueiros como Moura e seu mentor político, Bolsonaro, voltando seu foco para o YouTube.
Ele postou vídeos acusando os professores locais de conspirar para doutrinar os estudantes no comunismo. Os vídeos lhe renderam uma “audiência nacional”, disse ele, e impulsionaram sua ascensão impressionante, apenas dois anos depois, para a legislatura federal.
“Se a mídia social não existisse, eu não estaria aqui”, disse ele. “Jair Bolsonaro não seria presidente”.
Na Toca do Coelho
A algumas centenas de quilômetros de distância de Niterói, uma equipe de pesquisadores liderada por Virgilio Almeida, da Universidade Federal de Minas Gerais, debruçou-se sobre computadores, tentando entender como o YouTube molda a realidade de seus usuários.
A equipe analisou transcrições de milhares de vídeos, bem como os comentários abaixo deles. Os canais de direita no Brasil, eles descobriram, viram seu público expandir muito mais rápido do que os outros, e pareciam estar inclinando o conteúdo político geral do site.
Nos meses após o YouTube ter mudado seu algoritmo, as menções positivas de Bolsonaro aumentaram. Então, mencionou teorias da conspiração que ele tinha flutuado. Isso começou, pois as pesquisas ainda mostravam que ele era profundamente impopular, sugerindo que a plataforma estava fazendo mais do que apenas refletir tendências políticas.
Uma equipe do Centro Berkman Klein de Harvard começou a testar se a ascensão meteórica da extrema direita brasileira na plataforma havia sido impulsionada pelo mecanismo de recomendações do YouTube.
Jonas Kaiser e Yasodara Córdova, com Adrian Rauchfleisch, da Universidade Nacional de Taiwan, programaram um servidor baseado no Brasil para inserir um canal popular ou termo de pesquisa, depois abriram as principais recomendações do YouTube, seguiram as recomendações sobre cada um deles e assim por diante.
Repetindo isso milhares de vezes, os pesquisadores rastrearam como a plataforma movia os usuários de um vídeo para o outro. Eles descobriram que depois que os usuários assistiram a um vídeo sobre política ou até mesmo entretenimento, as recomendações do YouTube geralmente favoreciam canais de direita e conspiradores como o de Moura.
Crucialmente, os usuários que assistiam a um canal de extrema direita geralmente exibiam muito mais.
O algoritmo se uniu a canais outrora marginais – e então construiu uma audiência para eles, concluíram os pesquisadores.
Um desses canais pertencia ao Sr. Bolsonaro, que há muito usava a plataforma para publicar fraudes e conspirações. Apesar de ser um dos primeiros adeptos do YouTube, seus seguidores online pouco fizeram para expandir sua base política, que mal existia em nível nacional.
Então o sistema político do Brasil entrou em colapso assim que a popularidade do YouTube disparou. As opiniões de Bolsonaro não mudaram. Mas a extrema-direita do YouTube, onde ele era uma figura importante, viu seu público explodir, ajudando a recrutar um grande número de brasileiros para sua mensagem em um momento em que o país estava pronto para uma mudança política.
O YouTube desafiou a metodologia dos pesquisadores e disse que seus dados internos contradizem suas descobertas. Mas a empresa recusou os pedidos do New York Times para esses dados, bem como pedidos de certas estatísticas que revelariam se as descobertas dos pesquisadores estavam corretas ou não.
“Doutor Youtube”
As conspirações não se limitaram à política. Muitos brasileiros que buscavam informações de saúde no YouTube encontraram vídeos que os aterrorizavam: alguns disseram que o zika estava sendo disseminado por meio de vacinas ou pelos inseticidas destinados a conter a disseminação da doença transmitida por mosquitos que devastou o nordeste do Brasil.
Os vídeos pareciam subir na plataforma da mesma forma que o conteúdo político extremista: fazendo afirmações alarmantes e prometendo verdades proibidas que mantinham os usuários colados em suas telas.
Médicos, assistentes sociais e ex-autoridades do governo disseram que os vídeos criaram a base de uma crise de saúde pública, já que pacientes assustados recusaram vacinas e até mesmo inseticidas anti-zika.
As consequências foram vistas em comunidades mais pobres como Maceió, uma cidade no nordeste do Brasil que estava entre as mais atingidas pelo zika. “Notícias falsas é uma guerra virtual”, disse Flávio Santana, neurologista pediatra radicado em Maceió. “Nós temos isso vindo de todas as direções.”
Quando o zika se espalhou pela primeira vez em 2015, os agentes de saúde distribuíram larvicidas que mataram os mosquitos que espalham a doença.
Pouco depois de o YouTube ter instalado o novo mecanismo de recomendação, os pacientes do Drº Santana começaram a dizer a ele que viram vídeos responsabilizando o zika pelas vacinas – e, mais tarde, por larvicidas. Muitos recusaram ambos.
Auriene Oliviera, especialista em doenças infecciosas do mesmo hospital, disse que os pacientes cada vez mais desafiam seus conselhos, incluindo procedimentos cruciais para a sobrevivência de seus filhos.
“Eles dizem: ‘Não, pesquisei no Google, vi no YouTube”, disse ela.
Os provedores de saúde, disse ela, competiam “todos os dias” contra o “Dr. Google e Dr. YouTube ”- e eles estavam perdendo.
Mardjane Nunes, um especialista em zika que recentemente deixou um cargo sênior no Ministério da Saúde, disse que os profissionais de saúde em todo o Brasil têm relatado experiências semelhantes. À medida que mais comunidades recusam o larvicida anti-Zika, ela acrescentou, a doença está vendo um pequeno ressurgimento.
“A mídia social está ganhando”, ela disse.
A comunidade médica do Brasil tinha motivos para se sentir incomparável. Os pesquisadores de Harvard descobriram que os sistemas do YouTube frequentemente direcionavam usuários que procuravam informações sobre o zika, ou mesmo aqueles que assistiam a um vídeo respeitável sobre problemas de saúde, em direção a canais conspiratórios.
Um porta-voz do YouTube confirmou as descobertas do NY Times, chamando-as de não-intencionais, e disse que a empresa mudaria a forma como sua ferramenta de busca exibia vídeos relacionados ao zika.
Um “Ecossistema do ódio”
À medida que a extrema direita aumentava, muitas de suas principais vozes haviam aprendido a armar os vídeos de conspiração, oferecendo a seus grandes públicos um alvo: as pessoas culpadas. Eventualmente, os conspiradores do YouTube voltaram seus holofotes para Debora Diniz, uma ativista dos direitos das mulheres, cuja defesa do aborto a tornara alvo da extrema direita.
Bernardo Küster, uma estrela do YouTube cujos discursos caseiros lhe renderam 750 mil assinantes e um endosso de Bolsonaro, acusou-a de envolvimento nos supostos planos do Zika.
As mesmas pessoas que trabalham para ajudar as famílias afetadas pelo Zika, seus vídeos sugeriram, estavam por trás da doença. Apoiados por estrangeiros obscuros, seu objetivo era abolir a proibição do Brasil ao aborto – ou mesmo tornar os abortos obrigatórios.
À medida que os canais de extrema-direita e conspiração começaram a citar um ao outro, o sistema de recomendações do YouTube aprendeu a agrupar seus vídeos. Por mais implausível que qualquer rumor individual pudesse estar por conta própria, eles criaram a impressão de que dezenas de fontes diferentes revelavam a mesma verdade assustadora.
“Parece que a conexão é feita pelo espectador, mas a conexão é feita pelo sistema”, disse Diniz.
Ameaças de estupro e tortura preencheram o telefone e o email de Diniz. Alguns citaram suas rotinas diárias. Muitos ecoaram reivindicações dos vídeos de Küster, ela disse.
O Sr. Küster comentou alegremente, embora nunca tenha endossado explicitamente, as ameaças. Isso o manteve dentro das regras do YouTube.
Quando a universidade onde Diniz era professora recebeu um aviso de que um atirador atiraria nela e em seus alunos, e a polícia disse que eles não poderiam mais garantir sua segurança, ela deixou o Brasil.
“O sistema do YouTube de recomendar o próximo vídeo e o próximo vídeo”, ela disse, criou “um ecossistema de ódio”.
“Eu ouvi aqui que ela é uma inimiga do Brasil. Eu ouço no próximo que as feministas estão mudando os valores da família. E o próximo eu ouço que eles recebem dinheiro do exterior ”, disse ela. “Esse ciclo é o que leva alguém a dizer: ‘farei o que tem que ser feito’”.
“Precisamos que as empresas enfrentem seu papel”, disse Diniz. “Eticamente, eles são responsáveis”.
Conforme as conspirações se espalham no YouTube, os fabricantes de vídeo têm como alvo grupos de ajuda cujo trabalho toca em questões controversas como o aborto. Até mesmo algumas famílias que há muito tempo confiavam nesses grupos chegaram a se perguntar se os vídeos poderiam ser verdadeiros e começaram a evitá-los.
No Brasil, essa é uma prática on-line crescente conhecida como “linchamento”. Bolsonaro foi um dos primeiros pioneiros, espalhando vídeos em 2012 que acusavam falsamente acadêmicos de esquerda de conspirar para forçar as escolas a distribuir “kits gays” para converter crianças à homossexualidade.
Jordy, seu protegido tatuado de Niterói, não se incomodou em saber que sua campanha no YouTube, acusando professores de espalhar o comunismo, havia virado suas vidas de cabeça para baixo.
Uma dessas professoras, Valeria Borges, disse que ela e seus colegas receberam muitas mensagens de ódio, criando um clima de medo.
O Sr. Jordy, longe de contestar isso, disse que esse era seu objetivo. “Eu queria que ela sentisse medo”, disse ele.
“É uma guerra cultural contra a qual estamos lutando”, explicou ele. “É para isso que eu comecei a fazer.”
“Ditadura do Like”
O marco zero para o “Partido do YouTube” pode ser a sede paulista do Movimento Brasil Livre, que se reuniu para incentivar o impeachment de 2016 da presidente de esquerda Dilma Rousseff. Seus membros são jovens, de classe média, de extrema direita e extremamente presentes online.
Renan Santos, o coordenador nacional do grupo, gesticulou para uma porta marcada como “a divisão do YouTube” e disse: “Esse é o coração das coisas”.
No interior, oito jovens mexiam num software de edição. Um deles foi estilizar uma imagem de Benito Mussolini para um vídeo argumentando que o fascismo havia sido injustamente acusado de ser de direita.
Mas mesmo algumas pessoas aqui temem o impacto da plataforma na democracia. Santos, por exemplo, chamou a mídia social de “arma”, acrescentando que algumas pessoas ao redor de Bolsonaro “querem usar essa arma para pressionar as instituições de uma forma que eu não vejo como responsável”.
O co-fundador do grupo, Pedro D’Eyrot, ex-guitarrista do rock, disse que “temos algo aqui que chamamos de ditadura do like”.
A realidade, segundo ele, é moldada por qualquer mensagem que seja mais viral.
Mesmo quando ele falou, um vídeo do YouTube de duas horas estava cativando a nação. Intitulado “1964” para o ano do golpe militar no Brasil, argumentava que o golpe tinha sido necessário para salvar o Brasil do comunismo.
Dominguez, o adolescente que está aprendendo a tocar violão, disse que o vídeo o persuadiu de que seus professores haviam inventado os horrores do regime militar.
Borges, a professora de história humilhada no YouTube, disse que trouxe de volta memórias do toque de recolher militar, desaparecimento de ativistas e espancamentos policiais.
“Eu não acho que eu tive a minha última surra”, disse ela.
*O Intérprete é uma coluna de Max Fisher e Amanda Taub que explora as idéias e o contexto por trás dos principais eventos mundiais.
Mariana Simões contribuiu com reportagens de Niterói e Maceió, no Brasil. Kate Steiker-Ginzburg contribuiu com reportagens de Niterói, Maceió e São Paulo, Brasil. Renata Matarazzo contribuiu com pesquisa.
