Science">
703 2191 1 PB
703 2191 1 PB
703 2191 1 PB
net/publication/327350892
CITATIONS READS
9 321
1 author:
SEE PROFILE
All content following this page was uploaded by Debora Franco Machado on 31 August 2018.
Algorithmic mediations:
the power of modulation of
Facebook’s algorithms
Resumo Abstract
O artigo apresenta uma pesquisa sobre as implica- The article presents a research about the implica-
ções do uso de processos algorítmicos pelas pla- tions of the use of algorithms by social media pla-
taformas de mídias sociais. O objetivo é analisar as tforms. The goal is to analyze the dynamics and mo-
dinâmicas e motivações para a criação desses có- tivations for the creation of those codes, seeking to
digos, buscando compreender o que muda em uma understand what has changed in the communica-
comunicação cada vez mais mediada e modulada tion process that it is getting more and more media-
por agentes humanos e não humanos. Para isso, ted and modulated by human and nonhuman agents.
revisamos a literatura acerca do uso de algoritmos Therefore, we review the literature on the use of al-
e os debates sobre performatividade e objetivida- gorithms and debates on performativity and objec-
de por autores como Pasquale, Gillespie e Silveira. tivity by authors like Pasquale, Gillespie and Silveira;
Também delimitamos o conceito de modulação na and we also delimit the concept of modulation in
sociedade de controle (Deleuze). As hipóteses que the control society (Deleuze). The hypotheses that
guiam a pesquisa nascem do debate emergente so- lead this research come from the emerging debate
bre o possível poder de modulação comportamental about the possible power of behavior modulation
que esses códigos carregam. A metodologia utiliza- that these codes carry. The methodology used for
da para a presente pesquisa foi a análise de duas the present research was an analysis of two patents
patentes registradas pela empresa Facebook Inc. registered by Facebook Inc.
Palavras-chave
Algoritmos. Modulação. Facebook. Big data. patentes.
Keywords
Algorithms. Modulation. Facebook. Big data. Patents.
empresas de internet líderes no mercado fazem rências de uma certa forma; e para identificar, sele-
com a atenção. Elas a direcionam a certas ideias, cionar e classificar pessoas” (KITCHIN, 2017, p. 18,
bem e serviços e para longe de outras” (idem, 2015, tradução nossa).
p.6, tradução nossa). Seaver enfatiza a necessidade de se estudar
Para Gillespie (2014) “mais do que meras ferra- não apenas os impactos socioculturais dos proces-
mentas, os algoritmos são estabilizadores de con- sos algorítmicos como também suas especificida-
fiança” (idem, 2014, p.13, tradução nossa). E, para des técnicas e critica o uso generalista do termo
isso, é preciso que sejam vistos como imparciais, empregado em frases como o “algoritmo do Google”
objetivos e livres de subjetividade, erro ou tenta- ou “algoritmo do Facebook”. Ele nota que muitas ve-
tiva de influência. Contudo, ele refuta a afirmação zes seria mais apropriado utilizar o termo “sistema
de que se trata da mesma objetividade exigida aos algorítmico” – sistemas dinâmicos de códigos e pes-
jornalistas. No caso dos algoritmos, não se trata de soas – visto que na maior parte dos casos o código
uma objetividade imposta por normas institucionais em si é apenas uma pequena parte de um sistema
ou éticas, mas se supõe uma neutralidade mecâni- dinâmico muito mais amplo, que envolve códigos e
ca, intrínseca da máquina. Mesmo os termos usa- pessoas, um ou mais bancos de dados, negociações
dos para demonstrar relevância, como top stories, e experimentações (SEAVER, 2013).
trends, ou “melhores” normalmente são avaliados Para Bernhard Rieder (2017, p.101), se o sof-
como neutros, como se a escolha da nomenclatura tware se tornou uma técnica de poder é “descon-
fosse um processo não sujeito a questões de inter- certante que a análise crítica de objetos, procedi-
pretação. Essa objetividade algorítmica é fortemen- mentos e práticas técnicas concretas seja extre-
te difundida, não apenas pelas empresas proprietá- mamente rara”.
rias destes algoritmos, como também pela mídia.
Deste modo, os algoritmos são, ao mesmo tempo,
defendidos como ferramentas que realizam uma Os algoritmos, as mídias sociais e o
avaliação neutra para aqueles que são críticos aos conceito de modulação
seus resultados, e vendidos como uma ferramenta
Atualmente, o foco das pesquisas da área de
de promoção seletiva a anunciantes em potencial.
tecnologia e sociedade voltou-se para o uso de al-
Nick Seaver (2013) aponta que os algoritmos goritmos que controlam o fluxo de informação den-
costumam ser entendidos como preocupações tro das plataformas de mídias sociais, visto que elas
estritamente racionais, que juntam as certezas da já são a principal fonte de informação de grande
matemática com a objetividade da tecnologia. Con- parte da população conectada (PARISER, 2012).
tudo, o mesmo nunca é puramente abstrato e mate- A mais utilizada pelos brasileiros, o Facebook, ar-
mático. Apesar da tentativa dos programadores de mazena em torno de 300 petabytes de dados dos
manter um grau de objetividade, se distanciando de usuários (JOLER; PETROVSKI, 2016), essenciais
qualquer tipo de influência – inclusive cultural e re- para o trabalho de filtragem de informação que seus
fletindo contextos locais – o processo de tradução softwares exercem. A personalização de conteúdo
da tarefa ou conhecimento para um sistema algorít- recebido por cada usuário é vital não apenas para
mico não se mantém imune a essas interferências permitir que eles recebam as postagens mais rele-
(Ibid.). Para Kitchin, os algoritmos são criados para vantes (de acordo com os critérios de relevância da
propósitos que, na maioria das vezes estão longe empresa), mas também para atingir os objetivos do
de serem neutros: “para criar valor e capital, para mercado publicitário, responsável por 92% da re-
impulsionar um comportamento e estruturar prefe-
ceita da empresa em 2014 (SILVEIRA, 2017). Para resolve problemas, “melhora a experiência do usuá-
uma análise tão detalhada do perfil de cada usuário rio”, “não geram medo, mas afeto” (SILVEIRA, 2017,
a empresa especializa-se em produzir novos sof- p.83). Esse tipo de modulação se tornou fundamen-
twares que possibilitem um monitoramento intenso tal para o marketing.
do comportamento, dos interesses e da comunica-
ção de quem a utiliza. Depois da captura e armazenamento de dados para
Para Foucault (1973), o poder está diretamen- processamento e mineração, as empresas formam
te ligado à produção de verdade e ao saber. Alain amostras de perfis similares que servem aos dispo-
Desrosières (2002), ao analisar a história do pen- sitivos de modulação. O que eles fazem? A partir
samento estatístico, que data dos séculos XVII e dos gostos, do temperamento, das necessidades,
XVIII, também se dedicou a estudar como uma for- das possibilidades financeiras, do nível educacional,
ma de saber pode se transformar em poder. Ao des- entre outras sínteses, as empresas oferecem cami-
crever o início da busca por cálculos probabilísticos, nhos, soluções, definições, produtos e serviços para
o autor mostra que a questão que essa nova ciência suas amostras, ou seja, para um conjunto potencial
de consumidores que tiveram seus dados tratados
estava tentando solucionar veio de uma tentativa
e analisados. O sucesso da modulação depende da
antiga de encontrar algo que possibilitasse espe-
análise precisa das pessoas que serão moduladas
cular sobre o que até então estava apenas na mão
(SILVEIRA, 2017, p.84.).
de Deus, era sagrado: o acaso. “Quer permitindo que
ele decida casos difíceis, ou integrando a avaliação
Uma das características da modulação é a pos-
de um futuro incerto no presente” (DESROSIERES,
sibilidade de criar um espaço para o individual, dar a
2002, p.46, tradução nossa). Assim, o autor compa-
sensação de liberdade para o indivíduo enquanto o
ra o papel do estatístico com o de um juiz.
mantém em um ambiente restrito (HUI, 2015). Fou-
O ato de classificar, valorizar e avaliar fenômenos cault (1998), ao estudar o poder disciplinar, enxerga
naturais a nossa volta não é algo novo. No entanto, a liberdade como condição de relações de poder. As
uma característica que marca a nossa época é o fato dinâmicas de uso propostas pelas plataformas de mí-
de realizarmos essas tarefas utilizando “ferramentas dias sociais como o Facebook parecem elevar ao ex-
tecnológicas e virtuais compostas de algoritmos ca- tremo o paradoxo da liberdade controlada já analisado
pazes de sintetizar, processar e divulgar dados em por alguns autores ao estudar a modernidade. Elas
uma velocidade e quantidade jamais testemunhadas oferecem ambientes onde o usuário é incentivado ao
em nossa história” (LEITE; SARTORE, 2017, p.13.). compartilhamento, mas só recebe a informação que
Uma das características da sociedade informa- uma série de algoritmos decidiu ser mais relevante
cional é que ela se constitui com tecnologias que para ele. É incentivado a se expressar, mas seguindo
comunicam e controlam ao mesmo tempo (SILVEI- regras de conduta, ou escolhendo dentre seis emo-
RA, 2017). Por isso, o controle é um tema tão im- ções que representem o que está sentindo.
portante ao estudarmos os processos algorítmicos E é esse tipo de controle que consegue ao
utilizados nas plataformas de mídias sociais. Para mesmo tempo restringir e passar a sensação de li-
Deleuze, passamos da era das Sociedades Disci- berdade que Deleuze chama de modulação.
plinares, conforme apresentadas por Foucault, e
estamos vivendo em uma Sociedade de Controle
Os confinamentos são moldes, distintas molda-
(DELEUZE, 1992). O medo da punição é substituí-
gens, mas os controles são uma modulação, como
do por dispositivos de modulação de condutas onde
uma moldagem auto-deformante que mudasse
o controle caminha junto à sensação de conforto,
continuamente, a cada instante, ou como uma pe- validade da informação (SILVEIRA, 2015). Uma das
neira cujas malhas mudassem de um ponto a outro questões que preocupa pesquisadores do tema é o
(DELEUZE, 1992, p.221) fato das plataformas de mídias sociais funcionarem
como uma caixa preta, em que certas informações
Yuk Hui (2015, p.95) caracteriza esse novo são impossíveis de serem coletadas caso a pesqui-
tipo de controle, entendido em termos de modu- sa não seja realizada em parceria com a empresa
lação, pela possibilidade de “criação de um espa- que administra a plataforma.
ço para o indivíduo, como se ele ou ela tivesse a A análise de patentes mostra-se como uma al-
liberdade de se entrelaçar e criar, enquanto sua ternativa interessante para entender os processos
produção, bem como seus fins, seguem a lógica algorítmicos que ocorrem nas plataformas de mí-
das forças intangíveis”. Para Lazzarato (2006), a dias sociais. Apesar de muito utilizada nas áreas de
modulação como exercício de poder também se inovação como uma forma de mapear tecnologias
ocupa dos corpos, mas é principalmente a dimen- e analisar tendências, a análise de patentes não é
são incorporal que está em jogo. O autor aponta uma metodologia frequente na área das ciências so-
que, ao contrário das sociedades disciplinares ciais. Portanto, os métodos criados para guiar esse
foucaultiana, as sociedades de controle “se inves- tipo de análise foram desenvolvidos com base na
tem da memória mental, mais do que da memória necessidade dos pesquisadores das áreas de ino-
corporal” (idem, 2006, p.84). vação, de universidades ou empresas, para analisar
grandes bases de dados agrupando informações
A análise de patentes como estudo de relacionadas. Essa análise é feita, principalmente,
processos algorítmicos em mídias sociais por meio de técnicas de mineração de texto e ferra-
mentas de visualização com o auxílio de softwares
Uma das maiores mudanças que a socieda- específicos, com o objetivo de criar redes, mapas e
de em rede (CASTELLS, 2013) proporcionou foi clusters de patentes que tratam de tecnologias si-
a possibilidade de todo leitor ser também um pro- milares, ou como forma de hierarquizar a relevância
dutor de conteúdo. Isso transformou a situação de das invenções mais recentes (ABBAS et. al., 2014).
escassez da mídia de massa em uma abundância Tais técnicas mostram-se pouco eficazes para re-
de dados e conexões, possível somente em uma alizar uma pesquisa como essa, que possui como
rede distribuída como a internet. Com isso, a quan- objetivo a identificação de possibilidades de orien-
tidade de dados armazenados na rede, assim como tação de comportamento nas invenções seleciona-
tecnologias para analisá-los, cresceu exponencial- das, características difíceis de serem mapeadas por
mente, dando origem ao termo Big Data. Boyd e meio da identificação de palavras-chave ou de uma
Crawford (2012, p.9, tradução nossa) apontam análise semântica automatizada.
que trabalhar com “Big Data oferece às disciplinas Ao ser questionado pelo website, The Verge,
humanistas uma nova maneira de reivindicar o sta- sobre algumas patentes registradas pela Facebook
tus de ciência quantitativa e método objetivo. Isso Inc. que chamaram a atenção da mídia, um repre-
torna muitos espaços sociais mais quantificáveis”. sentante da empresa afirmou que a mesma, fre-
Trabalhar com dados ou mesmo analisar redes quentemente, registra patentes para tecnologias
sociais digitais não é algo novo dentro das ciências que nunca são implementadas, e por isso “paten-
sociais. A novidade da pesquisa usando Big Data tes não deveriam ser tomadas como um indicador
refere-se ao que alguns pesquisadores chamam de de futuros planos” (NEWTON, 2017, online, tradu-
“os quarto Vs”: velocidade, variedade, vinculação e ção nossa). Contudo, há uma extensa literatura que
aponta a análise de patentes como um método efi- Para a presente pesquisa, a metodologia
ciente para identificar padrões, entender em que di- utilizada foi a análise de patentes. A base de
reção à equipe de desenvolvimento de produto da pedidos de patente selecionada para busca e
empresa está caminhando e acompanhar o tipo de recuperação dos documentos foi o banco de
conhecimento que a empresa analisada adquiriu no patentes da United States Patent and Trade-
decorrer dos anos. mark Office 2. Foi feita uma busca por patentes
Daim et. al.(2006) compara o registro de paten- da empresa Facebook Inc. que tenham sido pu-
tes a artigos publicados em revistas acadêmicas. Eles blicadas entre um de janeiro de 2017 e 31 de
acreditam que mesmo que poucas patentes venham a janeiro de 2017 e contenham o termo “emotion”
se tornar algo com valor comercial, a maioria é tecnica- em seu título ou descrição 3. A busca gerou 39
mente significativa, pois elas servem como ponto de resultados e optou-se por analisar apenas as
partida para o desenvolvimento de novas tecnologias. duas primeiras patentes da lista. Para a análise
Breitzman e Mogee (2002) mostram que a análise de das patentes foi feita uma leitura aprofundada
patentes muitas vezes revela a competência tecnoló- dos textos e ilustrações com o objetivo de rela-
gica central de uma empresa e é, também, uma forma cionar as funcionalidades das invenções com o
eficaz de projetar em que áreas uma empresa ou tec- conceito de modulação apresentado neste arti-
nologia se concentrará em um futuro próximo. go. Listamos abaixo:
tro exemplo, uma foto de uma ex-namorada pode teúdo engraçado poderá ser mostrado a ele” (Ibid.,
estar associada a um tipo de emoção triste (NA- tradução nossa).
VEH, 2014, p.5, tradução nossa). Segundo a patente, o sistema também pode
ser útil para o mercado publicitário, pois “o es-
tado emocional do usuário poderá ser utilizado
para apresentar propagandas” (NAVEH, 2014,
p.6, tradução nossa), uma vez que a ferramen-
ta consegue identificar quando o usuário está
olhando para a tela do celular ou não. Assim, é
possível solicitar que anúncios apareçam apenas
quando o usuário estiver atento, ou mesmo que
quando o usuário demonstrar tristeza, anúncios
inspiradores apareçam, e quando estiver ente-
diado, anúncios interativos apareçam.
Ao analisar o texto da patente é possível
observar a intenção de modulação de compor-
tamento embutida no sistema. Para exemplifi-
car a sua funcionalidade o autor propõe que, ao
identificar que um usuário está triste, a mudança
de comportamento desejada seria deixá-lo feliz.
Sentimentos como tristeza e tédio são vistos
como indesejados e a alteração dos mesmos é
vista como parâmetro de sucesso. A hipótese
que pode ser levantada, levando em considera-
ção que a rentabilidade da empresa depende da
permanência do usuário atento à plataforma, é a
de que o sentimento desejado é aquele que man-
Figura 1 - Ilustração do fluxo de dados do sistema.
tém o usuário conectado.
Fonte: Barak Naveh
Para Silveira (2017, p.85), “a eficiência da
modulação parece depender da análise correta
e em profundidade do padrão de comportamen-
O texto aponta que fotos é apenas um tipo de to, as vontades e as necessidades dos indivíduos
conteúdo que pode ser mostrado, mas esse pode que, como bem apontou Deleuze, ‘tornaram-se
variar entre postagens de texto, vídeo, áudio, ga- dividuais’”. Identificando qual emoção um usuário
mes ou mesmo anúncios publicitários. A descrição está sentindo, qual tipo de conteúdo ele costuma
segue com outros exemplos relevantes e mostra consumir nesse estado emocional, e consequente-
que “ao usar informações associando emoções com mente, registrando o que ele sente após consumir
conteúdo, um sistema de entrega de conteúdo pode certos tipos de conteúdo, é possível ter uma base
fornecer mais informações associadas a emoções de dados valiosa para processos algorítmicos com
felizes do que emoções tristes, por exemplo,” (NA- o poder de direcionar o usuário a sentir ou deixar
VEH, 2014, p 5, tradução nossa), ou mesmo “se um de sentir emoções definidas pela plataforma.
usuário for identificado como entediado, um con-
Augmenting text messages with emotion digitação, a pressão do toque ao digitar, pa-
information drões de interação do usuário com o aplicativo
ou mesmo a sua localização no momento da
A patente, em português “Aumentando digitação.
mensagem de texto com informação de emo-
ção”, trata de uma funcionalidade que permite
Por exemplo, se o remetente digitar lentamen-
que um sistema identifique emoções relaciona-
te, o sistema de mensagens pode determinar
das a mensagens digitadas pelo usuário e que
que o remetente sente que a mensagem não é
formate esse texto de acordo com a informação
urgente. Em formas alternativas, o sistema de
adquirida. O sistema prevê a emoção que o usu- mensagens pode prever outras emoções com
ário está sentindo e define uma formatação de base na velocidade de digitação associada à
texto capaz de expressar melhor, visualmente, entrada de informação pelo teclado, como se
esse sentimento. o remetente está interessado na conversa se
está com pressa (DONOHUE, 2015, p.7, tra-
dução nossa).
A bibliografia estudada e as patentes anali- CETIC. TIC Domicílios. 2015. Disponível em:
sadas apontam para um poder de modulação de <http://data.cetic.br/cetic/explore? idPesquisa=-
comportamento presente nessas plataformas TIC_DOM>. Acesso em: 20 abr. 2018.
que merece uma análise crítica. Esse artigo se
COMSCORE. The State of Social Media in Brazil
propõe apenas a uma pequena contribuição para
and the Metrics that Really Matter. Disponível
um debate emergente, interdisciplinar e essencial
em: <http://www.comscore.com/Insights/Presen-
sobre os algoritmos que operam algumas das pla-
tations-and-Whitepapers/2014/The-State-of-
taformas mais utilizadas no Brasil e no mundo.
-Social-Media-in-Brazil-and-the-Metrics-that-
-Really-Matter>. Acesso em: 20 abr. 2018.
Referências
COSSETTI, Melissa. Facebook revela dados do
ABBAS, Assad; KHAN, Samee; ZHANG, Limin. A Brasil na CPBR9 e WhatsApp ‘vira ZapZap’. Tech-
literature review on the state-of-the-art in patent tudo. 2016. Disponível em:< http://www.techtu-
analysis. World Patent Information, North Dako- do.com.br/noticias/noticia/2016/01/facebook-
ta, p.1, nov. 2014. Disponível em: <http://dx.doi. -revela-dados-do-brasil-na-cpbr9-e-whatsapp-
org/10.1016/j.wpi.2013.12.006>. Acesso em: -vira-zapzap.html>. Acesso em: 20 abr. 2018.
20 abr. 2018
DAIM, Tugrul; RUEDA, Guillermo; Martin, Hilary;
ARAÚJO, Willian Fernandes. As narrativas sobre GERDSRI, Pisek. Forecasting emerging techno-
os algoritmos do Facebook: uma análise dos 10 logies: Use of bibliometrics and patent analysis.
anos do feed de notícias. 2017. Tese (Doutorado Technological Forecasting & Social Change, Ox-
em Comunicação e Informação) – Faculdade de ford, v. 73, n. 8, p. 981-1012, out. 2006.
Biblioteconomia e Comunicação, Universidade
Federal do Rio Grande do Sul, Porto Alegre, 2017. DELEUZE, Gilles. Post-Scriptum sobre as Socie-
dades de Controle. In: Conversações. São Paulo:
BOYD, Danah; CRAWFORD, Kate. Critical Editora 34, 1992.
Questions for Big Data: Provocations for a Cultural,
Technological, and Scholarly Phenomenon. DESROISIÈRES, Alain. The politics of large
Information, Communication, & Society p. 662- numbers: a history of statistical reasoning.
679, 2012. Disponível em: <https://people. Cambridge: Harvard University Press, 2002.
c s . k u l e u ve n . b e / ~ b e t t i n a . b e re n d t / t e a c h i n g /
DONOHUE, Aran. Augmenting Text Messages
ViennaDH15/boyd_crawford_2012.pdf>. Acesso
with Emotion Information. US 2017/0147202,
em: 20 abr. 2018.
25 maio 2017.
BREITZMAN, Anthony; MOGEE, Mary Ellen. The
FOUCAULT, Michel. A verdade e as formas jurídi-
many applications of patent analysis. Journal
cas. Rio de Janeiro: NAU Editora, 1973.
of Information Science, Nova York, v. 28, n. 3, p.
187-205, 2002. Disponível em: http://journals. _________________. A história da sexualidade 2: o uso
sagepub.com/doi/abs/10.1177/01655515020 dos prazeres. Rio de Janeiro: Graal, 1998.
2800302>. Acesso em: 20 abr. 2018.
GILLESPIE, Tarleton. The Relevance of Algorithm.
CASTELLS, Manuel. A Sociedade em Rede: Eco- Media Technologies: Essays on Communication,
nomia, Sociedade e Cultura. 6. ed. São Paulo: Paz Materiality, and Society. Cambridge, MA: MIT
e Terra, 2013, 1 v. Press. Virtual Books 2014. Disponível em: <ht-