O Dilema das redes sociais: Uma conversa necessária

A interação humana com a tecnologia nos dias de hoje apresenta problemas significativos. Recentemente, o israelense Yuval Noah Harari, em seu livro “Homo Deus: Uma breve história do amanhã”, ampliou discussões sobre a ideologia emergente do “Dataísmo”. Ele questiona a confiança na capacidade humana de processar a imensa quantidade de dados que produzimos. As ideias de Harari evidenciam que a atual relação da sociedade com os fluxos de dados é o principal causador do problema da desinformação e dos maiores desafios enfrentados no mundo hoje, levando-nos a conceituar o dilema das redes sociais.

Introdução ao Dilema das redes sociais 

Em 2020, o documentário “The Social Dilemma” (ou O Dilema das redes, traduzido), da Netflix, fez uma análise quanto às principais empresas de tecnologia do mundo, suas responsabilidades éticas e morais, e seu impacto massivo na vida de bilhões de pessoas. Mesmo antes disso, o ex-designer da Google, e co-fundador da “Center for Humane Technology”, Tristan Harris, vêm provocando debates pertinentes sobre o futuro da relação humana com a tecnologia.

O Dilema das redes sociais 

A promessa da tecnologia de nos manter conectados deu origem a uma série de consequências não intencionais que estão nos alcançando. Se não conseguirmos lidar com nosso ecossistema de informações quebrado, nunca seremos capazes de lidar com os desafios que afligem a humanidade. Esse é o problema, por trás de todos os outros problemas.
A nossa relação com as redes sociais enfrenta hoje três dilemas principais: fonte

1. O Dilema da Saúde Mental
   

   “Um estudo com 5.000 pessoas descobriu que o uso excessivo de redes sociais está correlacionado com declínios auto-relatados na saúde mental e física e satisfação com a vida.”
   American Journal of Epidemiology, 2017

   
   
   Todos os principais sites e aplicativos do mundo, hoje utilizam o chamado “design persuasivo”. Técnicas de design persuasivas, como notificações push e a rolagem infinita, criaram um ciclo de feedback que nos mantém colados aos nossos dispositivos.

2. O Dilema da Democracia
   

   “O número de países com campanhas de desinformação política nas mídias sociais dobrou nos últimos 2 anos.”
   New York Times, 2019

   
   
   A publicidade nas redes sociais dá a qualquer um a oportunidade de alcançar um grande número de pessoas com uma facilidade fenomenal, dando aos maus atores as ferramentas necessárias para provocar agitação e alimentar divisões políticas.

3. O Dilema da Discriminação
   

   “64% das pessoas que aderiram a grupos extremistas no Facebook o fizeram porque os algoritmos os conduziram até lá.”
   Internal Facebook report, 2018

   
   
   Os algoritmos existentes hoje, não são capazes de discernir se os posts se tratam de informações falsas, ou discursos de ódio, promovendo um conteúdo que mobiliza e amplifica preconceitos o tempo todo.

 

O Produto

“Se você não está pagando pelo produto, você é o produto.”                                                                                                     O Dilema das redes

Você já se perguntou como empresas como Google e Facebook ganham dinheiro? O que essas empresas vendem? Pelo o que essas companhias bilionárias são pagas? A resposta é simples: os anunciantes são os clientes e, consequentemente, nós somos os produtos.
O modelo de negócios de produtos como o TikTok, Facebook, e Instagram, é baseado em captar o máximo de atenção das pessoas, pelo maior tempo possível. Quanto maior o tempo gasto nesses aplicativos, maior o número de propagandas oferecidas, e consequentemente, maior o lucro.

As tecnologias utilizadas atualmente possibilitam um monitoramento completo da utilização dos aplicativos pelos usuários, desde um clique até o tempo gasto olhando para uma tela. Essas informações, quando combinadas em uma Big Data de bilhões de usuários, servem como insumo para alimentar algoritmos de recomendação com uma inteligência artificial de assertividade praticamente impecável. Mais do que apenas atrair sua atenção, eles oferecem a garantia de que o anúncio será bem-sucedido.

No entanto, o poder de convencimento desses algoritmos não se limita apenas aos anúncios e pode ser facilmente utilizado para impactar propositalmente o pensamento e comportamento da população, o que tem ainda mais valor comercial. De forma mais elaborada, o produto aqui é a gradual, sutil e imperceptível mudança em nosso comportamento e percepção.

Quantas vezes você já pensou em adquirir algum produto e viu esse desejo se refletir em anúncios no seu feed? Os algoritmos nos conhecem melhor do que nós mesmos.

O Problema

“O verdadeiro problema da humanidade é o seguinte: temos emoções paleolíticas, instituições medievais e tecnologia divina.”
Our Brains Are No Match for Our Technology, Tristan Harris at The New York Times

 

A evolução exponencial da tecnologia não foi acompanhada com a mesma agilidade pelos órgãos públicos, resultando no crescimento do ecossistema das redes sociais sem uma legislação adequada. A premissa das redes sociais permite que as empresas invadam nossa privacidade com uma liberdade quase inquestionável. O controle dos dados é realizado de maneira autorregulatória, onde as próprias organizações decidem quais dados armazenar, em que quantidade e o que fazer com as informações.

Esse descontrole sobre as redes sociais, ao longo dos anos, criou um ambiente nocivo que traz uma série de danos e ameaças às pessoas e à integridade da sociedade como um todo. O “Livro de Danos”, da “Center for Humane Technology”, ilustra bem este cenário.

     1. Persuasão

As redes sociais utilizam técnicas persuasivas o tempo todo. Elas nos induzem a passar o máximo de tempo possível nelas e moldam nossos comportamentos. Sem que percebamos, somos convencidos de que devemos consumir algum tipo de conteúdo ou cedemos a algum anúncio.

    2. Vício

 

“Existem apenas duas indústrias que chamam seus clientes de usuários, a de drogas, e a de software.”
The Social Dilemma

Você já parou para pensar que quem escolhe o que vai aparecer na sua timeline não é você? Os algoritmos de recomendação performam de maneira espetacular para cumprir um único objetivo: fazer com que você continue rolando para baixo. Assim, nossos hábitos diários são constantemente afetados, sem que tomemos consciência.

As redes sociais deixaram de ser ferramentas. Pelo contrário, elas exigem que as pessoas atendam as notificações e voltem a passar seu tempo no aplicativo, em vez de serem utilizadas para cumprir uma funcionalidade.

A indústria da tecnologia sempre mirou em criar computadores tão potentes ao ponto de superar as capacidades humanas, mas nesse caminho, não percebemos que acabamos por superar nossas fraquezas. As redes sociais se tornam um vício compulsivo para muitas pessoas por explorarem, justamente, a dificuldade humana de se regular quanto à facilidade de acesso a estímulos positivos. Os aumentos recentes nos índices de depressão e ansiedade apontam um risco principalmente para os mais jovens, que têm acesso a smartphones cada vez mais cedo.

   3. Reforço de Tendências

Os algoritmos das redes sociais operam definindo os conteúdos que estarão presentes em seu feed com base em tendências percebidas tanto em seu comportamento quanto na sociedade em geral. Assim, acabam por criar bolhas de informação que isolam as pessoas de uma fonte de verdade comum. Esse modus operandi, no entanto, incentiva o compartilhamento de informações não verídicas e conteúdos nocivos nas redes. A falta de autonomia sobre o conteúdo que consumimos reforça, consequentemente, um desincentivo à pluralidade dos indivíduos.

   4. Manipulação

“As fake news se espalham 6 vezes mais rápido do que notícias verídicas.”
The spread of true and false news online, Science Magazine, 2018

A inteligência artificial já domina o mundo, mesmo sem robôs, drones, e armas super potentes. O sistema tende a promover as fake news pois é mais lucrativo. Empresas e governos exploram a falta de discernimento dos algoritmos, criando redes de desinformação. A eficiência dessa estratégia, e os impactos negativos que pode causar é assustadora, e têm como exemplos recentes claros a onda de desinformação sobre a covid-19, e a tendência mundial na eleição de populistas extremistas.

“Se você obtém toda sua informação de algoritmos enviados a um telefone, ele reforça suas tendências, que são um padrão que se desenvolve e que se reforça mais e mais com o tempo.”
Barack Obama, em “My Next Guest Needs No Introduction With David Letterman”

A Solução para o Dilema das redes 

“Precisamos ter uma compreensão comum sobre a realidade.”                                                                                             O Dilema das redes sociais

Agora que já vivemos em uma rede de informações quebrada, a solução não é nada simples e exige uma grande força de vontade coletiva. No entanto, fato é que precisamos mudar. Apesar das argumentações das grandes empresas em contrário, a I.A. sozinha não pode resolver o problema das fake news, pois não há um parâmetro melhor sobre o que é verdade do que os cliques. Então, o que podemos fazer?

Estruturalmente, é necessário melhorar a regulação em relação a essas empresas, a fim de responsabilizá-las pelos males que promovem. Seria válido criar incentivos fiscais que limitassem o armazenamento de dados dos usuários, tornando financeiramente inviável a estratégia de guardar toda e qualquer informação possível. Deveríamos taxar o armazenamento desses dados de acordo com o seu uso. Podemos pensar em uma conta de água, por exemplo: quanto maior o uso, maior o valor pago.

Enquanto usuários das redes sociais, podemos adotar medidas simples para tornar nossa relação com elas mais saudável. Não é necessário deletar as redes sociais, mas sim limitar o tempo de uso e desligar as notificações, por exemplo, o que pode resultar em um melhor gerenciamento do tempo.

Submeter-se somente ao que é colocado em nossa timeline é perigoso, por isso é essencial verificar as informações lidas para se certificar da veracidade dos fatos. E o mais importante: FAÇA ESCOLHAS!Experimente pesquisar por conteúdos com os quais você não está acostumado, em vez de simplesmente clicar no que é sugerido. Dessa forma, você pode fugir do reforço de tendências e tomar decisões mais independentes e autônomas.

Soluções estruturais

Quanto a solução ativa, muito se pode fazer enquanto legisladores, enquanto estudantes, pais e educadores, e principalmente enquanto profissionais da tecnologia. O mais importante é estar atento ao modo como essas redes operam hoje. Adicionalmente, devemos buscar refletir na nossa relação com as tecnologias. Deveríamos agir de maneira diferente nessas redes? Enquanto profissionais que desenvolvem novas aplicações e sistemas, devemos estar o tempo todo preocupados com aquilo que estamos construindo. E então buscar entender se de fato estamos criando um software adequado e seguro para nossos usuários. Este Guia de Design Humanizado permite analisar potenciais falhas na construção dos nossos sistemas. Na sua apresentação “How better could tech protect us from distraction”, Tristan Harris exemplifica bem a adequação de um sistema mais saudável, e explica sobre a necessidade de mudança.

Compreender o mundo em que vivemos é passo imprescindível para que aprimoremos nossa relação em sociedade.

“Nada certo no mundo ocorre sem uma luta, alguém está se beneficiando do status quo.”                                             Barack Obama, em “My Next Guest Needs No Introduction With David Letterman”