Sumário
Introdução ao Dilema das redes sociais
A interação humana com a tecnologia nos dias de hoje é problemática. Recentemente, o israelense Yuval Noah Harari, em seu livro “Homo Deus: Uma breve história do amanhã”, ampliou discussões sobre a ideologia emergente do “Dataísmo”, colocando em xeque a confiança na capacidade humana de processar a quantidade imensa de dados que produzimos. As ideias de Harari evidenciam que, a atual relação da sociedade com os fluxos de dados, é o principal causador do problema da desinformação, e dos maiores desafios enfrentados no mundo hoje, nos levando a conceituar o dilema das redes sociais.
Em 2020, o documentário “The Social Dilemma” (ou O Dilema das redes, traduzido), da Netflix, fez uma análise quanto às principais empresas de tecnologia do mundo, suas responsabilidades éticas e morais, e seu impacto massivo na vida de bilhões de pessoas. Mesmo antes disso, o ex-designer da Google, e co-fundador da “Center for Humane Technology”, Tristan Harris, vêm provocando debates pertinentes sobre o futuro da relação humana com a tecnologia.
O Dilema das redes sociais
A promessa da tecnologia de nos manter conectados deu origem a uma série de consequências não intencionais que estão nos alcançando. Se não conseguirmos lidar com nosso ecossistema de informações quebrado, nunca seremos capazes de lidar com os desafios que afligem a humanidade. Esse é o problema, por trás de todos os outros problemas.
A nossa relação com as redes sociais enfrenta hoje três dilemas principais: fonte
- O Dilema da Saúde Mental
“Um estudo com 5.000 pessoas descobriu que o uso excessivo de redes sociais está correlacionado com declínios auto-relatados na saúde mental e física e satisfação com a vida.”
American Journal of Epidemiology, 2017
Todos os principais sites e aplicativos do mundo, hoje utilizam o chamado “design persuasivo”. Técnicas de design persuasivas, como notificações push e a rolagem infinita, criaram um ciclo de feedback que nos mantém colados aos nossos dispositivos. - O Dilema da Democracia
“O número de países com campanhas de desinformação política nas mídias sociais dobrou nos últimos 2 anos.”
New York Times, 2019
A publicidade nas redes sociais dá a qualquer um a oportunidade de alcançar um grande número de pessoas com uma facilidade fenomenal, dando aos maus atores as ferramentas necessárias para provocar agitação e alimentar divisões políticas. - O Dilema da Discriminação
“64% das pessoas que aderiram a grupos extremistas no Facebook o fizeram porque os algoritmos os conduziram até lá.”
Internal Facebook report, 2018
Os algoritmos existentes hoje, não são capazes de discernir se os posts se tratam de informações falsas, ou discursos de ódio, promovendo um conteúdo que mobiliza e amplifica preconceitos o tempo todo.
O Produto
“Se você não está pagando pelo produto, você é o produto.” O Dilema das redes
Você já se perguntou como empresas como Google e Facebook ganham dinheiro? O que essas empresas vendem? Pelo o que essas companhias bilionárias são pagas? A resposta é simples: os anunciantes são os clientes, nós somos os produtos.
O modelo de negócios de produtos como o TikTok, Facebook, e Instagram, é baseado em captar o máximo de atenção das pessoas, pelo maior tempo possível. Quanto maior o tempo gasto nesses aplicativos, maior o número de propagandas oferecidas, e consequentemente, maior o lucro.
As tecnologias utilizadas hoje permitem um monitoramento completo da utilização dos aplicativos pelos usuários, desde um clique, até o tempo gasto olhando para uma tela. Essas informações, unidas em uma Big Data de bilhões de usuários, servem de insumo para alimentar algoritmos de recomendação com uma inteligência artificial de assertividade praticamente impecável. Mais do que somente sua atenção, eles vendem a certeza de que o anúncio será bem sucedido.
A questão é que o poder de convencimento desses algoritmos não se limita aos anúncios e podem ser facilmente utilizados para impactar propositalmente no pensamento e comportamento da população, o que vale ainda mais dinheiro. Sendo menos simplista: o produto aqui, é a gradativa, leve, e imperceptível mudança em nosso comportamento e nossa percepção.
Quantas vezes você já pensou em adquirir algum produto e viu esse desejo se refletir em anúncios no seu feed? Os algoritmos nos conhecem mais do que nós mesmos.
O Problema
“O verdadeiro problema da humanidade é o seguinte: temos emoções paleolíticas, instituições medievais e tecnologia divina.”
Our Brains Are No Match for Our Technology, Tristan Harris at The New York Times
A evolução exponencial da tecnologia não foi acompanhada com a mesma agilidade pelos órgãos públicos, fazendo com que o ecossistema das redes sociais crescesse sem legislação adequada. A premissa das redes sociais, faz com que as empresas invadam nossa privacidade com liberdade quase que inquestionável. O controle dos dados é feito de maneira autorregulatória, em que as próprias organizações decidem quais dados armazenar, em que quantidade, e o que fazer com as informações.
O descontrole sobre as redes sociais, com o passar dos anos, criou um ambiente nocivo, que trás uma série de danos e ameaças às pessoas, e a integridade da sociedade como um todo. O “Livro de Danos”, da “Center for Humane Technology”, ilustra bem este cenário. É importante refletir sobre alguns dos principais desafios enfrentados:
1. Persuasão
As redes sociais utilizam de técnicas persuasivas o tempo todo. Nós somos induzidos a passar o máximo de tempo possível nas redes sociais, e nossos comportamentos são moldados. Sem que percebamos, somos convencidos de que devemos consumir algum tipo de conteúdo, ou cedemos a algum anúncio.
2. Vício
“Existem apenas duas indústrias que chamam seus clientes de usuários, a de drogas, e a de software.”
The Social Dilemma
Você já parou para pensar que quem escolhe o que vai aparecer na sua timeline não é você? Os algoritmos de recomendação performam de maneira espetacular para cumprir um único objetivo: fazer com que você continue rolando para baixo. Assim, nossos hábitos diários são constantemente afetados, sem que tomemos consciência.
As redes sociais deixaram de ser ferramentas. Ao contrário de serem utilizadas para cumprir com uma funcionalidade, elas exigem que as pessoas atendam as notificações e voltem a passar seu tempo no aplicativo.
A indústria da tecnologia sempre mirou em criar computadores tão potentes ao ponto de superar as capacidades humanas, mas nesse caminho, não percebemos que acabamos por superar nossas fraquezas. As redes sociais se tornam um vício compulsivo para muitas pessoas por explorarem, justamente, a dificuldade humana de se regular quanto à facilidade de acesso a estímulos positivos. Os aumentos recentes nos índices de depressão e ansiedade apontam um risco principalmente para os mais jovens, que têm acesso a smartphones cada vez mais cedo.
3. Reforço de Tendências
Os algoritmos das redes sociais definem os conteúdos que vão estar presentes no seu feed com base em tendências já percebidas no seu comportamento, e da sociedade, e assim, acabam por criar bolhas de informação que isolam as pessoas de uma fonte de verdade comum. Esse modus operandi acaba por incentivar o compartilhamento de informações não verídicas, e de conteúdos nocivos nas redes. A falta de autonomia sobre o conteúdo que consumimos, reforça um desincentivo à pluralidade dos indivíduos.
4. Manipulação
“As fake news se espalham 6 vezes mais rápido do que notícias verídicas.”
The spread of true and false news online, Science Magazine, 2018
A inteligência artificial já domina o mundo, mesmo sem robôs, drones, e armas super potentes. O sistema tende a promover as fake news pois é mais lucrativo. Empresas e governos exploram a falta de discernimento dos algoritmos, criando redes de desinformação. A eficiência dessa estratégia, e os impactos negativos que pode causar é assustadora, e têm como exemplos recentes claros a onda de desinformação sobre a covid-19, e a tendência mundial na eleição de populistas extremistas.
“Se você obtém toda sua informação de algoritmos enviados a um telefone, ele reforça suas tendências, que são um padrão que se desenvolve e que se reforça mais e mais com o tempo.”
Barack Obama, em “My Next Guest Needs No Introduction With David Letterman”
A Solução para o Dilema das redes
“Precisamos ter uma compreensão comum sobre a realidade.” O Dilema das redes sociais
O que fazer agora que já vivemos em uma rede de informações quebrada? A solução não é nada simples, e exige uma grande força de vontade coletiva, mas fato é que precisamos mudar. Por mais que as grandes empresas argumentem o contrário, a I.A. sozinha não pode resolver o problema das fake news, pois não há um parâmetro melhor sobre o que é verdade do que os cliques; então, o que pode ser feito?
Estruturalmente, precisamos melhorar nossa regulação quanto a essas empresas, de modo a responsabilizá-las pelos males que elas promovem. Poderiam também ser criados incentivos fiscais que limitem o armazenamento de dados dos usuários, tornando inviável financeiramente a estratégia de guardar toda e qualquer informação possível. O armazenamento desses dados deveria ser taxado conforme o uso, bem como uma conta de água: quanto maior o uso, maior o valor pago.
O que podemos fazer enquanto usuários das redes sociais são medidas simples para tornar nossa relação mais saudável. Você não precisa deletar suas redes sociais, mas limitar o tempo de uso, e desligar as notificações, por exemplo, podem resultar em um melhor gasto do seu tempo. Se submeter somente aquilo que é colocado na nossa timeline é perigoso, por isso sempre verifique as informações lidas para se certificar da veracidade dos fatos, e mais importante ainda: FAÇA ESCOLHAS! Experimente pesquisar por um conteúdo que você não está acostumado ao invés de simplesmente clicar no que é sugerido, dessa forma, você pode fugir do reforço de tendências e tomar decisões mais independentes e autônomas.
Quanto a solução ativa, muito se pode fazer enquanto legisladores, enquanto estudantes, pais e educadores, e principalmente enquanto profissionais da tecnologia. O mais importante é estar atento ao modo como essas redes operam hoje, e buscar refletir na nossa relação com as tecnologias se deveríamos estar agindo de maneira diferente. Enquanto profissionais que desenvolvem novas aplicações e sistemas, devemos estar o tempo todo preocupados com aquilo que estamos construindo, buscando entender se de fato estamos criando um software adequado e seguro para nossos usuários. Este Guia de Design Humanizado permite analisar potenciais falhas na construção dos nossos sistemas. Na sua apresentação “How better could tech protect us from distraction”, Tristan Harris exemplifica bem a adequação de um sistema mais saudável, e explica sobre a necessidade de mudança.
Compreender o mundo em que vivemos é passo imprescindível para que aprimoremos nossa relação em sociedade.
“Nada certo no mundo ocorre sem uma luta, alguém está se beneficiando do status quo.” Barack Obama, em “My Next Guest Needs No Introduction With David Letterman”
