Atualmente, 80% do conteúdo assistido na Netflix tem origem em sistemas de recomendação e 35% das compras na Amazon surgem de recomendações orientadas por dados.
O desenvolvimento das novas tecnologias de informação aliado à existência de uma vasta produção de dados e sobrecarga de informação, impulsionaram o desenvolvimento de sistemas de recomendação com base em algoritmos capazes de filtrar, priorizar e orientar os utilizadores de forma personalizada, reduzindo a dificuldade dos processos de escolha.
Ainda assim, alguns autores não têm dúvidas que que existe uma “personalização corrupta”. Empresas como a Netflix e a Amazon.com, respondem, sobretudo, aos seus interesses económicos, sugerindo conteúdos originais sob o pretexto de personalização. De facto, uma dada mensagem tem efeitos superiores quando é percebida como personalizada pelo utilizador, independentemente de ser realmente personalizada.
Em empresas como o Facebook e o Instagram, também o impacto social dos sistemas de recomendação ganha particular relevância. O digital modificou a forma como se consome informação, utilizando-se cada vez mais uma arquitetura em rede e baseada em redes sociais. A inteligência artificial e os algoritmos por trás dos sistemas de recomendação assumem um papel importante, mas podem resultar em vieses e na retenção dos utilizadores em “bolhas de informação”. Por consequência, há uma priorização da perspetiva com a qual o utilizador concorda, dificultando o acesso a mensagens que desafiem os pontos de vista individuais.
O problema não está nos algoritmos que fazem parte dos sistemas de recomendação, mas sim na forma como algumas empresas os têm utilizado com base em interesses económicos, com o objetivo de maximizar as taxas de retenção. No futuro, importa discutir estas temas e criar algoritmos que procurem promover os interesses dos indivíduos, com transparência e ética.
Fontes:
Pajkovic, N. (2021). Algorithms and taste-making: Exposing the Netflix Recommender System’s operational logics. Convergence.
The New York Times (2018). How Amazon Steers Shoppers to Its Own Products. https://www.nytimes.com/2018/06/23/business/amazon-the-brand-buster.html
Olá Maria Inês! Acho esta uma das tecnologias mais assustadoras, torna tudo muito impessoal e algo como a nossa individualidade e o nosso gosto pessoal parece não conseguir ficar a salvo das marcas e do seu poder de persuasão. Além disso, pensar que as minhas decisões são em larga escala recomendadas por inteligência artificial, faz-me questionar o meu livre-arbítrio...será que ainda está a salvo? Não sei se já viste O Dilema das Redes Sociais, dirigido por Jeff Orlowski disponível na Netflix que fala exatamente sobre o poder do algoritmo e da inteligência artificial, durante aqueles minutos temos a oportunidade de perceber que as redes sociais são só a ponta do iceberg. Obrigada pela tua partilha!
ResponderEliminar