A naturalidade com a qual acessamos a internet pode esconder elementos decisivos para nossa experiência. No caso das redes sociais, por exemplo, pensamos pouco sobre o que nos é apresentado, sem pensar nos meios e ferramentas envolvidos naquilo que lemos e assistimos. Porém, por trás dessa aparente simplicidade, existem situações que podem ser surpreendentes e assustadoras, objeto do documentário The Cleaners (2018), uma produção alemã e italiana que apresenta o trabalho dos moderadores de conteúdo das redes sociais. São profissionais que avaliam aquilo que pode e que não pode ser publicado nas redes sociais, com o objetivo de evitar excessos e violências, tornando as plataformas “seguras e saudáveis”. De certo modo, são as pessoas que “decidem o que o mundo verá”. No entanto, essa descrição é limitada, pois não consegue contemplar as diversas complexidades e tensões envolvidas nessa forma de trabalho propiciada pelo desenvolvimento tecnológico.
O documentário mostra as rotinas de moderadores de conteúdo que trabalham em Malina, nas Filipinas. Atuam em empresas contratadas pelas grandes corporações de mídia social e trabalham sob anonimato e confidencialidade. Analisam em média 20 mil imagens e postagens por dia, num trabalho impossível para a inteligência artificial e para os algoritmos que estruturam o funcionamento das redes. Trata-se de uma atividade extremamente exigente e exaustiva, pois envolve contato diário com conteúdo extremo, ofensivo e abusivo. A falta de preparação psicológica dos moderadores e as precárias condições de trabalho para lidar com situações tão intensas leva ao adoecimento físico e psíquico de muitos. Essa carência de estrutura amplia as dificuldades para a avaliação dos conteúdos, juntamente com tensões ligadas à liberdade de expressão e à censura. Como diferir arte de pornografia? Como diferir informação de conteúdo extremista? Como identificar possibilidades de manipulação e radicalização? As zonas cinzentas dessas tensões impactam as plataformas das redes sociais como um todo, e constituem alguns dos grandes desafios das sociedades contemporâneas.
Um exemplo da influência das redes sociais, abordado no documentário, é o massacre da população muçulmana rohingya em Mianmar, onde 10 mil pessoas foram mortas e 650 mil foram exiladas. A violência começou após uma postagem falsa, contendo violência sexual, ser disseminada via Facebook por nacionalistas budistas que perseguiam a etnia de origem muçulmana. Segundo o relatório da ONU sobre o episódio, as redes sociais “contribuíram substantivamente para o nível de ressentimento” que culminou no massacre. Nesse caso, a avaliação dos moderadores foi insuficiente para conter a reatividade emocional e social provocada pelo compartilhamento dos conteúdos. Outras situações que envolvem o uso de redes sociais são tratadas no documentário – como o controle social promovido pelas ditaduras que governam as Filipinas e a Turquia e a utilização de desinformação nas eleições presidenciais americanas de 2016. O elemento comum entre tais cenários é a possibilidade de influência e manipulação através da disseminação de conteúdos nas plataformas de redes sociais.
O trabalho dos “limpadores” é essencial nos ambientes das redes sociais, que prometiam acesso democrático e liberdade, mas que acabam por contribuir para manipulações e extremismos em diversos momentos. A complexidade das situações envolve análises técnicas, sociais e morais dos conteúdos, que muitas vezes os moderadores não podem realizar. Vivendo em países periféricos, escolhidos pelo baixo valor da mão de obra local, esses trabalhadores acabam impactados pelo contato frequente com conteúdo extremo, chegando a situações-limite. O documentário explora todas essas tensões, questionando o papel e a responsabilidade das grandes empresas de mídia social, não apenas em relação aos moderadores, mas também em relação aos riscos de censura, controle social e radicalização. Trata-se de uma importante contribuição para os debates sobre ética da informação do nosso tempo, envolvido por conexões intensas que nos impactam a todo momento e que precisam ser melhor entendidas.
Conforme vemos em The Cleaners, um aspecto importante a ser compreendido na nossa relação com a internet é modo pelo qual nossas emoções são impactadas nas redes sociais. Seja através daquilo que assistimos ou de memes e informações que acompanhamos, o contato com redes sociais estimulam sensações e reações intensas. Dois experimentos psicológicos realizados sobre esse impacto podem contribuir para esse entendimento. No primeiro deles, realizado pelo próprio Facebook em 2014, diferentes grupos foram expostos a conteúdos positivos e negativos, com o objetivo de avaliar como as pessoas seriam impactadas emocionalmente. Na conclusão do estudo, intitulado Evidência experimental de contágio emocional em grande escala através de redes sociais, os pesquisadores destacaram que é possível confirmar essa afecção a partir da observação dos comentários,interações e compartilhamentos dos usuários, conforme os conteúdos aos quais foram expostos (conteúdos negativos geram reações mais intensas). O estudo foi duramente criticado, pois os participantes não sabiam que integravam um experimento na plataforma, o que também desencadeou uma discussão sobre privacidade e direitos sobre dados.
Em outro estudo, realizado em 2019, pesquisadores avaliaram se conteúdos ligados à moral possuem um potencial maior de viralização. A pesquisa, intitulada A captura de atenção ajuda a explicar por que conteúdo moral e emocional viraliza, demonstra como “palavras que apelam ao senso de certo e errado de alguém são particularmente eficazes para captar a atenção, o que pode ajudar a explicar nossa nova realidade social e política.” O estímulo emocional a partir de conteúdos morais pode explicar como reações afetivas violentas, como os ataques às minorias muçulmanas em Mianmar, são estimulados a partir das interações sociais digitais: nesse caso, o conteúdo falso no qual uma mulher era violentada estimulou emoções reativas e violentas. Esses estímulos morais também podem ser observados nos usos políticos das redes sociais, que buscam estimular reações e posicionamentos. Conforme a conclusão dos pesquisadores, “as palavras que apelam à nossa moralidade rompem o barulho nas mídias sociais.” Nesse sentido, sentimentos variados podem ser estimulados conforme os conteúdos aos quais os usuários são expostos, abrindo possibilidades de manipulação e reações sociais. Essa situação demanda a atenção das plataformas, muito além da atuação dos moderadores de conteúdo.
O jornalista Andrew Marantz acompanhou e analisou dinâmicas de grupos extremistas que faziam uso de redes sociais para disseminar suas visões de mundo nos Estados Unidos, nos últimos anos. As suas conclusões, publicadas no livro Antissocial (2019), apontam para hipóteses próximas: ideias mais extremistas e violentas possuem um amplo espaço de proliferação nas redes sociais a partir (i) do estímulo das emoções de alta excitação, (ii) da atividade das plataformas para manter o ampliar o engajamento dos usuários e (iii) da ausência de regulação e controle sobre as interações sociais digitais. Além disso, nas redes sociais, as distinções entre entretenimento e política, fatos e mentiras, informação e desinformação tornam-se menos claras. Nesses ambientes, prevalecem as postagens que geram reações mais intensas e mais engajamento, sendo ampliadas pela forma de funcionamento das plataformas.
Marantz defende que, no lugar de conexão e ampliação das relações, temos ferramentas que contribuem para a corrosão dos laços sociais e da democracia. Entre tais elementos, cita o ódio racista, preconceitos religiosos, antissemitismo, negacionismos científicos, sociais e históricos e ataques e violências contra minorias. Mesmo que as plataformas possam contribuir para a sociedade e para as democracias, nas atuais circunstâncias, “fazem mais mal do que bem.” Isso ocorre porque a desinformação e os discursos de ódio se ampliam a partir do envolvimento emocional e do estímulo às emoções de alta excitação, limitando as possibilidades de análise racional e abertura à informação de qualidade.
Algumas análises indicam consequências mais gerais dos impactos causados pelas interações sociais digitais e seus estímulos. Os pesquisadores Luke Fernandez e Susan Matt (2019) investigaram como a cultura, os hábitos e as emoções podem mudar, quando novas tecnologias surgem – e, no caso das interações sociais digitais, essa mudança é brusca. Segundo sua análise, buscamos nas redes estímulos, envolvimento e validação social, mesmo que através de impulsos antissociais. Postamos, “curtimos” e somos “curtidos”, compartilhamos, comentamos, e assim sucessivamente, num processo que demanda o engajamento constante de nossa atenção e emoções. No entanto, essa busca por interações e por destaque entre os diversos usuários com os quais interagimos acaba por ampliar nosso individualismo e a ênfase nas nossas próprias visões de mundo. Na análise de Fernandez e Matt, redes sociais nos deixam mais “entediados, solitários, irritados e estúpidos”, devido ao seu próprio modo de funcionamento. Assim, ficamos presos num ciclo de retroalimentação cada vez mais fechado e menos aberto à diferença.
Esse processo, que envolve interação e emoção, já foi identificado de diferentes maneiras. O estudioso dos processos informacionais Eli Pariser (2011) aborda o fenômeno a partir do modo como a internet e as redes sociais operam, trabalhando com o direcionamento de conteúdo personalizado para usuários, conforme um modelo de negócio que exige envolvimento constante. Uma mesma busca no Google, realizada por duas pessoas, nunca é igual, assim como as páginas das redes sociais. Pariser identificou esse exercício como “efeito-bolha”, no qual a inteligência artificial e os algoritmos, refinados pelas interações constantes dos usuários, acabam por criar um espaço no qual o usuário fica cada vez mais confortável. Trata-se de uma zona na qual gostos, preferências e experiências ficam imunes ao questionamento e à contradição. De maneira geral, esse entrincheiramento facilita as interações sociais digitais, oferecendo ao usuário o que ele quer e criando uma unidade na identidade digital dos sujeitos. Porém, por outro lado, o efeito bolha também nos distancia de outras possibilidades e visões contraditórias sobre os mais diversos aspectos, causando efeitos sociais e políticos consideráveis.
O teórico social Cass Sunstein (2017) identifica um desses efeitos como “câmaras de eco”, uma dinâmica na qual as pessoas passam a buscar dados e confirmações para suas visões de mundo, reforçando suas concepções. Além de estimular traços tribais próprios de nossa psicologia profunda, isso se dá porque o modo de funcionamento das redes sociais vê as pessoas como “consumidoras”, que precisam interagir cada vez mais dentro das plataformas. Para que isso aconteça, é interessante que essas plataformas ofereçam o que as pessoas queiram ver, com base nas interações que já realizaram. Dessa forma, são construídas as câmaras de eco, que reforçam intensamente os pontos de vista e posicionamentos dos usuários, oferecendo “mais do mesmo”. Sunstein contrapõe esse modelo ao que identifica como concepção “cidadã”, que estimularia as pessoas a verem a si mesmas como integrantes de uma sociedade diversificada e plural. No entanto, não se trata de uma concepção interessante para os modelos de negócios das plataformas sociais, que por natureza é direcionado e uniformizador da experiência.
Do ponto de vista político, as câmaras de eco dificultam o debate e o envolvimento coletivo necessários para o funcionamento das democracias, fazendo com que os sujeitos fiquem cada vez mais presos em suas bolhas. Um exemplo da ação de filtros-bolha que se transformam em câmaras de eco é o caso do YouTube. A socióloga Jen Schradie (2019) investigou os efeitos políticos do ativismo digital e concluiu que a plataforma de vídeos mais conhecida pode contribuir para a radicalização política, devido ao seu modo de funcionamento. Os algoritmos que oferecem os vídeos a serem assistidos se pautam por aquilo que o usuário quer ver e, com base nisso, fazem a sugestão para manter a interação. Assim, aqueles que possuem mais recursos e infraestrutura poderão impactar mais os debates políticos, oferecendo conteúdos e produções mais sofisticadas e impactantes para a disseminação de seus posicionamentos. No contexto americano abordado por Schradie, quem detinha mais possibilidades para o ativismo digital eram políticos conservadores, que acabaram conquistando relativo sucesso nas últimas eleições naquele país. O que um moderador de conteúdo poderia fazer quanto a tudo isso?
Já o pesquisador inglês Jamie Bartlett analisa como tais dinâmicas impactam os sistemas políticos de um modo mais abrangente. Primeiramente, destaca como as expectativas iniciais sobre o potencial informativo da internet se mostraram ingênuas: a esperança inicial era de que, devido à maior disponibilidade de informação e acessos, as pessoas fossem mais racionais e politizadas. No entanto, mesmo com mais dados e meios, a internet também contribuiu para processos de radicalização, por meio do surgimento de bolhas e câmaras de eco, situações que limitaram o potencial do diálogo político. Na cacofonia das redes, onde os sentimentos e as emoções são estimulados para gerar mais engajamento por parte dos usuários, “quem grita mais alto” consegue mais visibilidade. Ser moderado, discutir informações de maneira racional e ponderada, não produz muitos resultados em termos de popularidade. Com isso, os espaços políticos passam a ser ocupados por conteúdos apelativos e sensacionalistas, e a internet e as redes sociais passam a ser espaços de polarização e discussões pouco civilizadas. Conforme Bartlett defende no livro The People vs Tech (2018), isso traz dificuldades para a organização e para a estabilidade democrática, podendo até mesmo inviabilizá-la num futuro próximo.
Não é possível retornar a um passado pretensamente ideal, em que não havia internet e redes sociais para criar extremistas e ressentidos, mesmo porque esse tempo nunca existiu: sempre houve possibilidades de manipulação social e estímulos a antagonismos. No entanto, com o desenvolvimento das tecnologias da informação e da comunicação, é inegável que também ocorreu uma ampliação do potencial de tais recursos para fins questionáveis. Conforme vemos em The Cleaners, a liberdade de produção e distribuição de conteúdo nas plataformas das redes sociais abriu novas vias para a comunicação humana, inclusive para circunstâncias que promovem violência, ódio, brutalidade e extremismo. Dessa forma, as plataformas demandam observação e cuidado, devido ao grande alcance que possuem. Mas, mesmo com tais cuidados, o impacto promovido pelas redes sociais vai além das possibilidades da moderação: radicalização, extremismo e desinformação acabam promovidos pela própria organização e estrutura das tecnologias.
Nesse contexto, o filósofo Jaron Lanier, um dos pioneiros da internet, considera que os possíveis benefícios para os usuários não compensam os problemas que causam, tanto na esfera pessoal quanto na esfera pública. A solução seria o abandono dos ambientes virtuais de interação social, conforme Lanier defende num manifesto publicado em 2018. Segundo sua análise, as redes sociais (i) nos fazem perder a liberdade e a dignidade, devido aos casos de manipulação e direcionamento comportamental, (ii) nos deixam mais infelizes e ansiosos, já que nos estimulam a comparações a todo momento e (iii) enfraquecem as discussões públicas e a política, por nos envolverem em filtros e câmaras nas quais só escutamos a nossa voz. Em termos pessoais, (iv) também limitam nossa capacidade de raciocínio e empatia, já que estimulam mais emoções disruptivas e raivosas e (v) impactam nossa organização pessoal e econômica, criando estímulos de consumo e direcionamentos poucas vezes imaginados na história do sistema econômico vigente. Mais que um convite ao abandono das redes, o manifesto de Lanier é um estímulo à reflexão sobre os efeitos das ferramentas digitais em nossas vidas.
Em termos políticos, quem nos sugere caminhos é o filósofo Joseph Heath, que nos convida a buscarmos um “Iluminismo 2.0”. Vivendo num mundo no qual não sabemos ao certo quem decide o que vemos e o que sentimos, é relevante reconhecer que nossa capacidade racional é limitada. Nossas análises e juízos podem ser manipulados, assim como nossas emoções e reações. Com o advento da comunicação direta, que “fala diretamente ao coração”, possibilitada pelas tecnologias atuais, as emoções (boas e ruins) são evocadas, ocupando o lugar de uma possível reflexão. Assim, podemos ser reativos e pouco reflexivos, pouco abertos à diferença – e até mesmo tribais – e esse não é o modo adequado de deliberar sobre os caminhos da polis. No entanto, temos hoje mais informações disponíveis sobre o funcionamento da psicologia dos seres humanos, e podemos lidar melhor com nossas limitações. Aqui, o reconhecimento de tais circunstâncias é necessário para que possamos estruturar e construir melhor nossos processos educacionais e políticos. O risco de não o fazer é, além de mantermos ilusões a respeito de nossa própria natureza e condição, ficarmos à deriva política, como a que estamos agora, num mundo infestado por estímulos que deixam pouco espaço para reflexão e análise detidas.
O trabalho dos “limpadores”, que é o tema de The Cleaners, evidencia as tensões envolvidas no nosso contato com interações sociais digitais. Como tratamos aqui, estudos e pesquisas em diversas áreas destacam o potencial afetivo de tais ferramentas, com consequências sociais e políticas sérias, que estimulam ainda mais atenção com esses efeitos. Porém, para além das tentativas de moderação promovidas pelas próprias plataformas, que se mostram estruturalmente insuficientes, precisamos de uma atenção maior. Tanto a proposta de Lanier quanto a de Heath envolvem uma “moderação de si mesmo” no uso das redes sociais e da internet, uma demanda cada vez mais necessária, devido às possibilidades de manipulação e seus efeitos. Talvez assim possamos ter um pouco mais de controle e poder de decisão sobre aquilo que vemos e sentimos.
Referências
The Cleaners. Direção de Hans Block Moritz Riesewieck. Alemanha e Itália: Grifa Filmes, 90 minutos, 2018.
BARTLETT, Jamie. The people vs tech: How the internet is killing democracy (and how we save it). Nova York: Random House, 2018.
BRADY, William; GANTMAN, Ana; VAN BAVEL, Jay. “Attentional capture helps explain why moral and emotional content go viral”. Journal of Experimental Psychology: General, Vol. 149, pp. 746–756, 2019.
FERNANDEZ, Luke; MATT, Susan. Bored, Lonely, Angry, Stupid: Changing Feelings about Technology, from the Telegraph to Twitter. Cambridge: Harvard University Press, 2019.
HEATH, Joseph. Enlightenment 2.0: Restoring sanity to our politics, our economy, and our lives. Montreal: HarperCollins Canada, 2014.
KRAMER, Adam.; GUILLORY, Jamie.; HANCOCK, Jeffrey. “Experimental evidence of massive-scale emotional contagion through social networks”. Proceedings of the National Academy of Sciences of the United States. Vol. 111, pp. 8788-8790, 2014.
LENIER, Jaron. Dez argumentos para você deletar agora suas redes sociais. Tradução de Bruno Casotti. Rio de Janeiro: Intrínseca, 2018.
MARANTZ, Andrew. Antisocial: Online extremists, techno-utopians, and the hijacking of the American conversation. Nva York: Viking, 2019.
PARISER, Eli. The Filter Bubble: What the Internet is hiding from you. Nova York: Penguim Press, 2011.
SCHRADIE, Jen. The Revolution That Wasn’t: How Digital Activism Favors Conservatives. Cambridge: Harvard University Press, 2019.
SUNSTEIN, Cass. #Republic: Divided Democracy in the Age of Social Media. Princeton: Princeton University Press, 2017.
Imagem: “The Cleaners” (detalhe de peça de divulgação)
