Bem-vindo à algocracia: o poder do viés algorítmico

Uma grande parte das mudanças que estão ocorrendo no mundo é produzida por algoritmos. Tanto que, no futuro, eles poderão mexer os fios da política...

Escrito e verificado por a psicóloga Valeria Sabater.

Última atualização: 30 abril, 2023

Pesquisar uma oferta de emprego. Fazer uma reclamação no serviço do atendimento ao cliente. Informar-se sobre um empréstimo ou outro produto bancário. Reservar um bilhete de avião ou hotel. As notícias, informações e anúncios que vemos ao entrar em nossas redes sociais… Os algoritmos estão por trás de infinitas tarefas diárias e em mais setores do que imaginamos.

São aqueles mecanismos silenciosos que, cada vez mais, movem o mundo sem que a gente perceba. E o mais impressionante de tudo: eles aprendem com os dados que fornecemos para serem cada vez mais eficazes. Eles estão se adaptando ao ser humano – aqueles que são codificados como “usuários” -, tentando oferecer uma experiência cada vez mais personalizada, rápida e satisfatória para que o esforço seja mínimo.

Seus tentáculos atingem aplicativos de namoro, onde podem até mediar nossa escolha de parceiro, apresentando-nos uma série de candidatos muito específicos. Com base, supostamente, em nossas preferências. Sua incursão no mundo digital cotidiano é tão grande que até se pensa que ele pode mediar nossas decisões políticas…

O que é viés algorítmico?

Os algoritmos podem facilitar nossa vida. Se somos amantes da natureza e defensores do meio ambiente, por exemplo, é muito provável que em nossas redes sociais encontremos cada vez mais informações relacionadas a este tema. No entanto, as coisas mudam quando nossas preocupações não são exatamente saudáveis.

Recordemos o terrível caso de Molly Russell. Esta adolescente estava procurando tópicos associados ao suicídio. Chegou um momento em que todas as suas redes sociais mostravam e propunham conteúdos relacionados a esse tema. Quase sem perceber, podemos ficar presos em uma bolha de informação na qual outras tendências e o oxigênio de outros conteúdos não filtram mais.

Viés algorítmico refere-se ao nosso falso senso de controle sobre as informações que recebemos e as decisões que tomamos. Porque existe um código perturbador que se infiltra no nosso dia a dia, oferecendo-nos persistentemente dados que quase nunca são imparciais. Mas vamos lembrar, quase sempre há um interesse por trás…

Você não decide, eles decidem por você

Há um fenômeno que estamos vendo cada vez com mais frequência na normalização da inteligência artificial. A IA nos dá uma falsa sensação de controle e autoeficácia. Essa sensação aumentará muito mais quando o uso do ChatGPT for normalizado e nos ajudar em nossas teses, trabalho na universidade e nas inúmeras tarefas diárias.

Nos sentiremos mais eficientes, mas na realidade será aquele chatbot que irá realizar uma tarefa que nos pertence. Isso não precisa ser negativo, mas aumenta o viés algorítmico mencionado acima. Ou seja, a percepção de que decidimos e agimos sem nenhuma interferência, quando não é assim…

Algoritmos não são imparciais

Cathy O’Neil é uma matemática que escreveu um livro muito popular, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (2016). Neste artigo, ela descreveu os algoritmos como “armas de destruição em massa”. Para começar, esses valores computacionais não estão isentos de vieses morais e culturais, sem contar os interesses por trás deles.

No livro, ela fala sobre o caso de uma professora que foi demitida em decorrência de uma avaliação negativa feita por um algoritmo sobre ela. Nela, foram analisados dados desde mensagens pessoais até relatórios médicos. O mesmo acontece quando se avalia a cessão de hipotecas ou auxílios. Certos grupos étnicos, por exemplo, sempre estarão em desvantagem.

No entanto, a maioria das empresas e organizações validam essas análises rápidas. O viés do algoritmo as leva a concluir que o que um algoritmo analisa sempre será válido. Mesmo que não seja justo e muitas vezes esses dados nem sejam coletados pessoalmente.

Algocracia, algoritmos a serviço da política

Costumamos dizer que os políticos estão longe dos reais problemas do povo. Questionamos as suas ideias porque não respondem às necessidades do cidadão. Outra crítica são seus gastos excessivos com assessores, sua má gestão e até mesmo seus erros ao decidir e até legislar.

Recentemente, uma investigação publicada pela consultoria Deloitte nos contou algo surpreendente. Pode haver um futuro em que algoritmos e inteligência artificial assumam boa parte das tarefas dos políticos. Bastaria analisar os dados que as grandes empresas de tecnologia coletam sobre nós com nossos celulares. Assim conheceriam as nossas necessidades para dar respostas sociais mais ajustadas.

Da mesma forma, a inteligência artificial pode ser treinada para que toda gestão política não seja fraudulenta. Sua capacidade analítica substituiria uma multidão de assessores e pouparia uma infinidade de trabalho aos órgãos públicos. A algocracia, entendida como o poder dos algoritmos para substituir o trabalho dos políticos, pode nos parecer muito distópica, mas é uma possibilidade real.

Basta dar um detalhe. A Universidade de Utrecht realizou um estudo no qual mostrou que deixar os algoritmos substituirem todo o aspecto burocrático das organizações governamentais poderia ser benéfico. A razão? Os cidadãos tendem a confiar mais na gestão que uma máquina pode fazer do que na realizada por um político (outro viés óbvio).

Conclusão

O viés algorítmico veio para ficar e está ficando cada vez mais forte. Continuaremos a pensar que muitas das compras que fazemos, as pessoas a quem damos atenção nas redes sociais, ou as ideias a que damos verdade são fruto da nossa vontade. Continuaremos a nos perceber como mentes livres, quando, na realidade, seremos silenciosamente mais condicionados.

Vemos isso nos jovens. Cada vez mais infelizes porque vivem num universo digital baseado na comparação social. Devemos entender que os algoritmos não são entidades que surgem por si mesmos, existem grandes empresas por trás deles que os programam. E essa programação sempre tem um objetivo.

Se caminhamos para um futuro em que as pessoas e a inteligência artificial trabalhem juntas, é necessário que aqueles que treinam e programam IA sejam transparentes e partam de valores mais éticos, justos, morais e saudáveis. Devemos regular esses mecanismos que, cada vez mais, estão mudando o comportamento dos usuários. Ou seja, de cada um de nós.