From<=
/i>
disciplinary society to digital control society: limits and challenges of law in the
perspective of Foucault an=
d
Deleuze
Ana
Silvia Marcatto Begalli* ![](3D"29.5.26.Dasociedadedisciplinar-REVISADO_arquivos/image002.png")
Â
Resumo: O artigo parte de uma inquietação prática: o Direito, tal co= mo foi construÃdo, ainda consegue regular o poder? A pergunta ganha força quando= se percebe que as formas contemporâneas de controle social não mais dependem= de muros, grades ou agentes uniformizados. A partir das contribuições de Mic= hel Foucault, sobretudo em Vigiar e Punir, e do diagnóstico posterior de Gilles Deleuze sobre as sociedades de controle, o trabalho investiga a passagem de= uma vigilância institucional e visÃvel para uma vigilância difusa, algorÃtm= ica e internalizada pelos próprios sujeitos. Argumenta-se que o poder digital antecipa comportamentos, produz perfis e molda subjetividades de forma mais penetrante do que qualquer instituição de confinamento jamais o fez. Dian= te desse quadro, examina-se a capacidade de resposta do ordenamento jurÃdico vigente, com atenção especial à Lei Geral de Proteção de Dados Pessoai= s (LGPD) e ao Regulamento Geral sobre a Proteção de Dados (RGPD), apontando seus a= vanços e suas limitações estruturais. A conclusão é que o Direito ainda racioc= ina sob a lógica disciplinar e, por isso, chega sempre um passo atrás de um poder= que opera pela modulação contÃnua e invisÃvel de condutas.
Palavras-chave: sociedade de controle; vigilância digital;
algoritmos; proteção de dados; Foucault.
Abstract: <=
span
style=3D'font-size:12.0pt;mso-bidi-font-size:11.0pt;font-family:"Times New =
Roman",serif;
mso-bidi-theme-font:minor-bidi'>This article inves=
tigates
how Law can regulate forms of power that,
in contemporary times, are no longer
concentrated in identifiab=
le
physical institutions but are dispersed in a Keywords: <=
span
style=3D'font-size:12.0pt;mso-bidi-font-size:11.0pt;font-family:"Times New =
Roman",serif;
mso-bidi-theme-font:minor-bidi'>control society; digit=
al surveillance; algorithms;=
data protection; Foucault. =
=
INTRODUÇÃO=
A modernidade produziu formas de poder que,
progressivamente, deixaram de depender da violência fÃsica explÃcita par=
a se
exercer. Michel Foucault (1926-1984), ao analisar o surgimento das institui=
ções
disciplinares no século XVIII, demonstrou que o poder moderno opera atravÃ=
©s da
vigilância, da normalização e da produção de saberes sobre os indivÃd=
uos. O
panóptico benthamiano – estrutura arquitetô=
nica que
permite ver sem ser visto – tornou-se a metáfora central de uma sociedad=
e que controla
seus membros não pela força, mas pela consciência de que podem estar sen=
do
observados (Foucault, 2014). Décadas depois, Gilles Deleuze (1925-1995)
diagnosticou que esse modelo disciplinar estava sendo superado por uma nova
lógica de poder, que denominou “sociedades de controleâ€. Nessa nova
configuração, as muralhas das instituições cedem lugar a redes invisÃv=
eis e
contÃnuas de modulação comportamental. O controle não mais se exerce so=
bre
corpos confinados em espaços fechados, mas sobre fluxos de informação, p=
erfis
digitais e comportamentos rastreados em tempo real (Deleuze, 1992).<=
/p>
A contemporaneidade oferece ao diagnóstico
deleuziano uma materialidade avassaladora: algoritmos de aprendizado de
máquina, sistemas de pontuação de crédito, geolocalização permanente,
reconhecimento facial e análise preditiva de comportamento compõem a infr=
aestrutura
de um poder que Zuboff (2021) denominou capital=
ismo
de vigilância. Esse poder não apenas observa – ele antecipa, influencia
e molda condutas antes mesmo que sejam externalizadas. Diante desse cenário, o Direito se vê dia=
nte de
um desafio estrutural. O arcabouço jurÃdico foi historicamente construÃd=
o para
regular poderes identificáveis, territorializados
O objetivo é analisar, a partir do referen= cial teórico de Foucault e Deleuze, os limites e os desafios enfrentados pelo Direito contemporâneo na regulação da sociedade de controle digital. Metodologicamente, adota-se a pesquisa teórico-bibliográfica, com anális= e de fontes primárias dos referidos autores, doutrina especializada em Direito e tecnologia, e exame crÃtico do instrumental normativo vigente.
O artigo estrutura-se em cinco seções: a primeira reconstrói a teoria foucaultiana da sociedade disciplinar; a segu= nda apresenta a passagem para a sociedade de controle na perspectiva deleuziana= ; a terceira analisa o poder algorÃtmico como novo dispositivo de produção de verdades; a quarta examina os processos de subjetivação e autocontrole na= era digital; e a quinta problematiza os limites e desafios do Direito nesse contexto.
= 1 A SOCIEDADE DISCIPLINAR EM FOUCAULT
Em Vigiar e Punir: Nascimento da Prisão, publicado originalmente em 1975, Michel Foucault empreende uma genealogia d= as práticas punitivas modernas que vai muito além da história do sistema pe= nal. Ao rastrear a transformação do suplÃcio público na prisão disciplinar, Fo= ucault revela uma mutação profunda na tecnologia do poder: o deslocamento do alv= o do poder do corpo supliciado para a alma normalizada (Foucault, 2014).<= /p>
A sociedade disciplinar caracteriza-se pela proliferação de instituições de confinamento –prisões, escolas, hosp= itais, quartéis, fábricas – que partilham uma mesma lógica de funcionamento. = Essas instituições organizam o espaço, o tempo e os corpos com vistas à produ= ção de indivÃduos úteis e dóceis. Não se trata de destruir ou suprimir os suje= itos, mas de transformá-los, moldá-los conforme exigências de uma economia pol= Ãtica dos corpos.
O instrumento central dessa tecnologia é a vigilância hierárquica. O panóptico, concebido por Jeremy Bentham no sé= culo XVIII, sintetiza essa lógica com precisão exemplar: uma torre central de observação circundada por celas periféricas iluminadas permite que o vig= ilante veja todos os prisioneiros sem ser visto. O efeito mais importante, entreta= nto, não é a vigilância efetiva, mas a conscientização do vigiado de que po= de ser observado a qualquer momento:
O Panóptico é uma máquina de dissociar o par ver-ser visto: no a= nel periférico, se é totalmente visto, sem nunca ver; na torre central, vê-s= e tudo, sem nunca ser visto. [...] Daà o efeito mais importante do Panóptico: ind= uzir no detento um estado consciente e permanente de visibilidade que assegura o funcionamento automático do poder (Foucault, 2014, p. 190).
Esse mecanismo
inaugura o que Foucault chama de poder disciplinar: uma forma de poder que =
se
exerce continuamente, que individualiza e que produz conhecimento sobre cada
indivÃduo. A disciplina não é apenas repressiva – ela é, antes de tud=
o, produtiva.
Produz corpos, saberes, normas e, fundamentalmente, sujeitos (Foucault, 201=
4).
Articulada Ã
vigilância, a disciplina opera por meio de dois outros mecanismos: a sanç=
ão
normalizadora e o exame. A sanção normalizadora estabelece uma distribuiÃ=
§Ã£o dos
indivÃduos em torno de uma norma, punindo os desvios e recompensando a
conformidade. O exame combina o olhar hierárquico e a sanção normalizado=
ra: ao
mesmo tempo que observa, classifica e transforma o examinado em objeto de s=
aber
documentado. O prontuário médico, o boletim escolar e o processo judicial=
são,
nesse sentido, instrumentos de poder-saber.
Importa sublin=
har,
ainda, a noção foucaultiana de biopoder e biopolÃtica, desenvolvida nos =
cursos
do Collège de France. Se a disciplina incide s=
obre o
corpo individual, a biopolÃtica dirige-se à população como objeto de ge=
stão:
taxas de natalidade, mortalidade, morbidade e fluxos migratórios tornam-se=
alvo
de tecnologias de governo. O poder sobre a vida – que faz viver e deixa m=
orrer –
constitui a forma especÃfica do poder na modernidade (Foucault, 2018).
É preciso, ai=
nda,
recuperar um conceito que Foucault desenvolveu nos cursos do Collège de France entre 1977 e 1979 e que não receb=
eu
atenção suficiente nos debates jurÃdicos sobre tecnologia: a
governamentalidade. O termo designa um conjunto de práticas, saberes e
racionalidades que têm como objeto a condução das condutas, isto é, a g=
estão de
populações por meio de técnicas que induzem comportamentos sem recorrer =
Ã
coerção direta (Foucault, 2018). A governamentalidade não proÃbe nem or=
dena:
ela produz condições nas quais os sujeitos escolhem, por conta própria, =
os
comportamentos que o poder considera desejáveis.
Esse conceito =
é
talvez o mais diretamente aplicável à compreensão das plataformas digita=
is
contemporâneas. O design de uma rede social não proÃbe conteúdos: ele os
amplifica ou os suprime por meio de algoritmos de recomendação. Um sistem=
a de
avaliação de crédito não impede ninguém de tomar emprestado: ele torna=
o
empréstimo mais caro para quem o sistema classifica como risco. O rastream=
ento
de geolocalização não restringe a mobilidade: ele apenas registra cada
movimento e o converte em dado para perfilamento futuro. Em todos esses cas=
os,
o poder age sobre a liberdade dos sujeitos, não contra ela. Usa a liberdade
como instrumento, não como obstáculo. Isso é, precisamente, o que Foucau=
lt
entendia por governamentalidade.
A noção
foucaultiana de normalização, por sua vez, adquire na era digital uma dim=
ensão
que ultrapassa qualquer instituição disciplinar individual. Nas sociedades
disciplinares, a norma era produzida localmente: a escola tinha seus crité=
rios
de aprovação; o hospital, seus parâmetros de saúde; o quartel, seus pad=
rões de
aptidão. Cada instituição normalizava dentro de seu domÃnio. As platafo=
rmas
digitais operam em escala global e simultânea: o algoritmo que define o qu=
e é
conteúdo "relevante", o sistema que determina o que é comportam=
ento "suspeito",
o modelo que classifica um perfil como "confiável=
"
ou "arriscado" produzem normas que incidem sobre centenas =
de
milhões de pessoas ao mesmo tempo sem que essas pessoas conheçam os critÃ=
©rios e
sem que possam impugná-los.
Lyon (2001) pr=
opôs
o conceito de "olho eletrônico" para descrever a expansão da lÃ=
³gica
panóptica para além das instituições fÃsicas. Mas há uma diferença q=
ualitativa
importante que o simples alargamento do panóptico não capta: o panóptico=
benthamiano era hierárquico e unidirecional; um vigi=
ava
muitos. As plataformas digitais produzem uma vigilância que o sociólogo <=
span
class=3DSpellE>Mathiesen chamou de sinóptico: muitos vigiam muitos,=
e os
próprios vigiados participam ativamente da produção dos dados que os exp=
õem. A
distinção foucaultiana entre o ver e o ser visto se dissolve: nas redes
sociais, o usuário é simultaneamente observador e observado, produtor de
vigilância e seu objeto. O panóptico não desapareceu: ele se tornou
participativo.
Esse arcabouço
teórico é indispensável para compreender o salto qualitativo operado pela
vigilância digital. Foucault identificou o poder disciplinar como aquele q=
ue
opera pela visibilidade compulsória do sujeito, que não pode esconder-se =
do
olhar institucional. Os dispositivos digitais contemporâneos invertem
parcialmente essa lógica: a visibilidade não é mais compulsória, mas de=
sejada.
O sujeito não é forçado a aparecer – ele quer aparecer, porque a plata=
forma foi
projetada para que o desejo de visibilidade seja mais forte do que qualquer
resistência. O panóptico digital funciona porque seus prisioneiros pedem =
para
entrar.
=
2
DA DISCIPLINA AO CONTROLE: O DIAGNÓSTICO DE DELEUZE
O Pós-escrito
sobre as Sociedades de Controle, publicado por Deleuze em 1990, tem pouco m=
ais
de seis páginas. Sua brevidade contrasta com a extensão das questões que=
abre.
Sem negar Foucault, Deleuze propõe que o modelo disciplinar estava em crise
visÃvel: as instituições de confinamento apresentavam sinais de esgotame=
nto, e
o poder buscava formas mais fluidas de operação (Deleuze, 1992). Não se =
tratava
de um recuo do controle social, mas de sua metamorfose.
É necessário,
porém, situar o Pós-escrito em seu contexto teórico mais amplo. O ensaio=
de
1990 não surge do nada: ele condensa e atualiza décadas de trabalho filos=
ófico
que Deleuze desenvolveu, em boa parte em parceria com Félix Guattari. Em O=
Anti-Édipo (1972) e em Mil Platôs (1980), Deleuze e
Guattari já haviam construÃdo um vocabulário conceitual que, ao ser conf=
rontado
com as tecnologias digitais contemporâneas, revela uma capacidade analÃti=
ca
surpreendente. Para compreender o diagnóstico sobre o controle, é preciso
percorrer, ainda que brevemente, alguns desses conceitos.
O par conceitu=
al
mais relevante para os fins deste artigo é o de espaço estriado e espaço=
liso.
O espaço estriado é aquele que foi medido, dividido, codificado: tem
fronteiras, hierarquias, percursos prescritos. O espaço liso, ao contrári=
o, é o
espaço do nomadismo, dos fluxos, das intensidades que escapam à codificaÃ=
§Ã£o
fixada. A sociedade disciplinar opera predominantemente no espaço estriado=
: a
prisão é um espaço absolutamente estriado, com celas numeradas, horários
rÃgidos, posições corporais prescritas (Deleuze; Guattari, 1997). A soci=
edade
de controle, por sua vez, não abandona a estriação – ela a reorganiza.=
O espaço
digital parece liso: não tem paredes, permite movimento aparentemente livr=
e.
Mas é um espaço liso que captura, que registra cada trajeto, que converte=
todo
movimento em dado.
Esse paradoxo =
-– a
aparente liberdade que é, ao mesmo tempo, captura total – é o coração=
do
diagnóstico deleuziano sobre o controle. Deleuze e Guattari descrevem os
"aparelhos de captura" como mecanismos que se apropriam de força=
s,
fluxos e energias que, em princÃpio, escorreriam para fora das malhas do p=
oder
(Deleuze; Guattari, 1997). As plataformas digitais são, nesse sentido,
aparelhos de captura por excelência: oferecem um ambiente de expressão
aparentemente livre e, ao mesmo tempo, convertem cada expressão em dado
A distinção
conceitual central no texto de 1990 é aquela entre moldes e modulações. A
disciplina funciona por moldes: o indivÃduo passa de uma instituição a o=
utra – famÃlia,
escola, quartel, fábrica, hospital –, sendo a cada vez moldado em um esp=
aço
fechado com regras próprias. O controle, ao contrário, opera por modulaç=
ões,
variações contÃnuas e flutuantes que não têm a estabilidade do molde. =
Como
observa Deleuze (1992, p. 221), “os controles são uma modulação, como =
uma
moldagem autodeformante que mudasse continuamen=
te, a
cada instante, ou como uma peneira cujas malhas mudassem de um ponto a outr=
oâ€.
A imagem da
peneira com malhas que mudam é perturbadora porque descreve com precisão =
o que
hoje se chama de personalização algorÃtmica. Não existe mais um padrão=
único de
triagem: o filtro se adapta a cada perfil, a cada momento, a cada contexto.=
A
modulação é contÃnua, invisÃvel e personalizada. Cada usuário habita,=
em certo
sentido, uma plataforma diferente, embora use nominalmente a mesma. O feed =
que
você vê não é o feed que eu vejo. A peneira muda.
A substituiçÃ=
£o do
indivÃduo pelo dividual merece atenção espec=
ial. A
palavra não é neologismo casual: Deleuze a toma de empréstimo do filóso=
fo
Gilbert Simondon, que a utilizava para descrever
processos de individuação em curso, nunca concluÃdos, sempre em devir. D=
eleuze
a reapropria para descrever o objeto do poder nas sociedades de controle: n=
ão
mais o indivÃduo como unidade estável e identificável, mas o dividual como conjunto de fragmentos de dados que pod=
em ser
combinados e recombinados conforme a necessidade de quem os processa (Deleu=
ze,
1992). O sujeito se dissolve em amostras, cifras e perfis.
Essa dissoluç=
ão
tem consequências jurÃdicas diretas que a teoria do Direito ainda não
equacionou satisfatoriamente. O ordenamento jurÃdico foi construÃdo sobre=
a
categoria do sujeito de direito: um ente com identidade estável, capaz de =
ser
titular de direitos e deveres, de firmar contratos, de responder por atos. =
O dividual deleuziano subverte essa categoria. Quando um
sistema algorÃtmico toma uma decisão com base num perfil inferido – e n=
ão na
identidade real de uma pessoa – quem é o sujeito afetado? A pessoa cujos=
dados
originaram o perfil? O perfil, que pode corresponder a milhões de pessoas =
com
caracterÃsticas semelhantes? O Direito, até agora, não tem resposta
satisfatória para essa pergunta.
Outro elemento=
que
o Pós-escrito introduz e que a leitura contemporânea precisa valorizar é=
o
papel da dÃvida como mecanismo de controle. Deleuze, retomando conceitos d=
e O Anti-Édipo, observa que o controle se exerce
fundamentalmente por meio do endividamento: o estudante que nunca termina d=
e se
formar, o trabalhador que nunca termina de se qualificar, o consumidor que
nunca termina de pagar. A dÃvida é uma relação de poder porque cria uma
obrigação sem prazo, uma dependência estrutural que mantém o sujeito
permanentemente sob a influência do credor (Deleuze, 1992). No contexto
digital, essa lógica se sofistica: a dÃvida não é apenas financeira. É=
uma
dÃvida de atenção, de dados, de engajamento que o usuário contrai ao us=
ar
gratuitamente serviços cujo custo real é pago em comportamento. As plataf=
ormas
de redes sociais são, nesse sentido, máquinas de endividamento permanente=
: o
usuário nunca termina de "pagar" porque o produto que consome é=
, ele
mesmo, o pagamento.
A recepção do
diagnóstico deleuziano no campo teórico mais amplo foi significativa.
A empresa
substitui a fábrica como modelo institucional dominante dessa nova lógica=
. A
fábrica tinha um fim: a produção de bens e, como efeito colateral, a pro=
dução
de solidariedade coletiva entre os trabalhadores. A empresa introduz a rivalização permanente, a formação que nunca term=
ina, o
salário como variável contÃnua e não como valor fixo. O controle não t=
em
conclusão: não há alta, não há diploma definitivo, não há saÃda. Es=
sa lógica é
hoje visÃvel nas plataformas de trabalho por aplicativo, nas quais o
trabalhador nunca é empregado – é sempre parceiro, colaborador, empreen=
dedor de
si mesmo – e, portanto, nunca tem direitos trabalhistas consolidados. O
controle opera pela indefinição permanente do vÃnculo.
Escrito antes =
da
popularização da internet, o texto de Deleuze hoje parece uma descrição=
das
plataformas digitais. O rastreamento contÃnuo de comportamentos, a constru=
ção
de perfis a partir de dados dispersos, a personalização que nunca cessa: =
tudo
isso já estava prefigurado em 1990. O diagnóstico deleuziano não previu a
tecnologia concreta, mas capturou a lógica que a tornaria possÃvel e, mai=
s do
que isso, necessária para o funcionamento do capitalismo contemporâneo.
O diálogo ent=
re
Foucault e Deleuze permite, portanto, uma compreensão estratificada do pod=
er
contemporâneo que nenhum dos dois autores, isoladamente, poderia oferecer.=
A
lógica disciplinar não desapareceu: ela persiste nas prisões, nas escola=
s, nos
hospitais, e se digitaliza nos sistemas de monitoramento eletrônico, nas
plataformas de gestão de desempenho, nos prontuários eletrônicos. Mas so=
bre ela
se sobrepõe uma lógica de controle que a amplifica, a generaliza e a diss=
olve
no cotidiano. As duas lógicas coexistem, se articulam e se reforçam mutua=
mente.
Compreender essa coexistência é o ponto de partida indispensável para qu=
alquer
proposta séria de regulação jurÃdica do poder digital.
=
3
O PODER ALGORÃTMICO E A PRODUÇÃO DE "VERDADES DIGITAIS"
=
Uma das
contribuições mais fecundas de Foucault para a análise do poder é a noÃ=
§Ã£o de
que poder e saber são inseparáveis. Não existe relação de poder sem co=
rrelata
constituição de um campo de saber; inversamente, todo saber pressupõe e
constitui ao mesmo tempo relações de poder (Foucault, 2014). Na sociedade=
de
controle digital, essa articulação assume uma forma especÃfica: os algor=
itmos
tornam-se os novos dispositivos de produção de verdade.
O conceito de
dispositivo, em Foucault, designa um conjunto heterogêneo de discursos,
instituições, medidas administrativas, enunciados cientÃficos e proposiÃ=
§Ãµes
filosóficas que se articulam em torno de uma função estratégica dominan=
te
(Foucault, 2018). Os sistemas algorÃtmicos contemporâneos funcionam
precisamente como dispositivos nesse sentido: articulam dados pessoais,
infraestrutura tecnológica, lógica de mercado e marcos regulatórios em t=
orno da
função estratégica de produzir conhecimento acionável sobre os indivÃd=
uos.
<=
span
style=3D'font-size:12.0pt;line-height:150%;font-family:"Times New Roman",se=
rif'>Zuboff
(2021) denomina “capitalismo de vigilância†a lógica econômica que s=
ustenta
esse dispositivo. Nessa lógica, o comportamento humano é a matéria-prima=
a ser
extraÃda, processada e convertida em produtos preditivos comercializados n=
os
mercados de futuros comportamentais. Empresas como Google, Meta e Amazon não vendem apenas produtos ou serviços: vend=
em
certezas sobre o comportamento futuro de milhões de pessoas.
O problema
jurÃdico se torna agudo quando se considera que as verdades produzidas por
algoritmos têm consequências concretas e frequentemente determinantes sob=
re a
vida das pessoas. Sistemas de pontuação de crédito definem o acesso a
financiamentos e moradia; algoritmos de triagem curricular filtram candidat=
os a
empregos; sistemas de avaliação de risco influenciam decisões judiciais =
sobre
liberdade provisória e progressão de regime (Lyon, 2001).
O caso COMPAS =
(Correctional Offender Man=
agement Profiling for Alternative=
Sanctions), utilizado em tribunais norte-americanos p=
ara
estimar a probabilidade de reincidência criminal, é paradigmático.
Investigações jornalÃsticas demonstraram que o sistema apresentava taxas=
de
erro sistematicamente maiores para réus negros do que para réus brancos,
reproduzindo e amplificando desigualdades históricas (Bioni,
2019). A produção algorÃtmica de verdade, longe de ser neutra, é atrave=
ssada
por escolhas polÃticas e reproduz estruturas de poder preexistentes.
A opacidade é=
o
traço que torna essa produção de verdade especialmente problemática do =
ponto de
vista jurÃdico. Se nas instituições disciplinares o exame era visÃvel â=
€“ o
prontuário estava ali, o laudo era acessÃvel –, nos sistemas algorÃtmi=
cos a
tomada de decisão muitas vezes ocorre em uma caixa-preta. Os parâmetros q=
ue
determinam um score de crédito, uma recomendação de conteúdo ou =
uma
avaliação de risco raramente são explicitados e frequentemente são prot=
egidos
como segredo industrial (Rodotà , 2008).
Essa opacidade
compromete um dos pilares do Estado de Direito: a possibilidade de o indivÃ=
duo
conhecer, compreender e contestar as decisões que o afetam. O direito ao
contraditório, à ampla defesa e à motivação das decisões – conquist=
as
históricas fundamentais – veem-se esvaziados diante de decisões automat=
izadas
cujos fundamentos são, por definição, inacessÃveis ao afetado. Trata-se=
, em
termos foucaultianos, de uma produção de verdade sem possibilidade de
contestação do regime de verdade que a sustenta.
=
4
AUTOCONTROLE E SUBJETIVAÇÃO NA ERA DIGITAL
Uma das dimens=
ões
mais sofisticadas do pensamento foucaultiano reside na análise dos process=
os de
subjetivação – as maneiras pelas quais os indivÃduos são levados a
reconhecer-se como sujeitos de determinadas práticas. Em seus últimos cur=
sos no
Collège de France, Foucault examinou as tecnol=
ogias
de si: práticas pelas quais o sujeito age sobre si mesmo, transforma-se,
produz-se como objeto de conhecimento e prática moral (Foucault, 2018).
A era digital
oferece um terreno fértil para a proliferação de novas tecnologias de si=
, que,
ao mesmo tempo, são tecnologias de controle. As redes sociais exemplificam=
essa
articulação com precisão: o sujeito digital é, simultaneamente, produto=
r e
produto de dados. Ao publicar, curtir, compartilhar e comentar, o usuário =
não
apenas se expressa – ele se constitui como sujeito legÃvel para os siste=
mas
algorÃtmicos e para os outros usuários.
A curadoria da
própria imagem nas redes sociais é um processo de subjetivação profunda=
mente
atravessado pelo poder. O usuário antecipa o olhar algorÃtmico e humano ao
formatar sua apresentação de si: escolhe o que publicar, como se fotograf=
ar,
quais posições adotar. Han (2017) observa que a sociedade da transparênc=
ia – na
qual tudo é exposto e exibido – não representa uma libertação, mas um=
a nova
forma de sujeição: a autoexposição voluntária como condição de visib=
ilidade e
reconhecimento social.
O efeito
panóptico, nesse contexto, é mais sutil e mais eficaz do que nas institui=
ções
disciplinares. O prisioneiro benthamiano sabia =
que
estava numa prisão; o usuário das redes sociais frequentemente não perce=
be que
habita uma arquitetura de captura de atenção e extração de dados. A vig=
ilância
se dissolve no cotidiano a ponto de se tornar imperceptÃvel – e, por iss=
o, mais
difÃcil de resistir (Lyon, 2001).
A arquitetura =
de
escolhas (nudging) é outro mecanismo pe=
lo qual
o controle digital opera sobre a subjetividade sem coerção direta. Sistem=
as que
apresentam opções em determinada ordem, que tornam certas escolhas mais
salientes ou mais convenientes, que enviam notificações em momentos estra=
tégicos,
moldam comportamentos de forma sistemática sem que o sujeito sequer perceb=
a que
está sendo conduzido. Trata-se, em sentido deleuziano, de uma modulação
contÃnua: não há uma regra fixa, mas uma variação permanente, que se a=
dapta ao
perfil individual de cada usuário.
O autocontrole
induzido pela vigilância digital tem consequências que transcendem o indi=
vidual
para alcançar o coletivo. Pesquisas demonstraram que a consciência de est=
ar
sendo monitorado produz efeitos de autocensura, especialmente em contextos =
de
expressão polÃtica ou religiosa. O medo da exposição e de consequências
jurÃdicas ou reputacionais leva os sujeitos a restringir voluntariamente s=
ua
expressão – um efeito de resfriamento (chilling<=
/i>
effect), que compromete direitos fundamenta=
is
como a liberdade de expressão e a privacidade (RodotÃ=
,
2008).
Essa dimensão
subjetiva do controle digital coloca um desafio peculiar para o Direito: co=
mo
proteger liberdades que são ameaçadas não pela coerção, mas pela confo=
rmação
voluntária? Como regular um poder que age sobre o desejo, a atenção e a
autoimagem dos sujeitos, e não apenas sobre seus comportamentos externos? O
Direito, historicamente construÃdo para intervir em relações externas en=
tre
sujeitos, encontra-se diante de uma forma de poder que coloniza o interior =
da
subjetividade.
=
5
LIMITES E DESAFIOS DO DIREITO NA SOCIEDADE DE CONTROLE DIGITAL
=
5.1
A territorialidade e a velocidade do Direito
O Direito mode=
rno
foi construÃdo sobre pressupostos que a digitalização problematiza em su=
a raiz.
O primeiro deles é a territorialidade: o Direito opera, em regra, dentro d=
as
fronteiras do Estado-nação. As plataformas digitais, no entanto, são, por
definição, transfronteiriças: os dados de um cidadão brasileiro podem s=
er
coletados por uma empresa norte-americana, armazenados em servidores europe=
us e
processados por algoritmos desenvolvidos na Ãsia. A regulação jurÃdica =
nacional
enfrenta dificuldades estruturais para alcançar esses atores e esses fluxos
(Morozov, 2013).
O segundo
pressuposto problematizado é o da velocidade. O Direito é, por natureza, =
um
sistema normativo que opera com latência: a produção legislativa demanda=
tempo;
a consolidação jurisprudencial exige a acumulação de casos; a harmoniza=
ção
doutrinária é um processo demorado. A tecnologia, ao contrário, evolui em
velocidade exponencial. O Direito frequentemente regulamenta tecnologias qu=
e já
foram superadas, sendo sistematicamente ultrapassado pelos objetos que pret=
ende
regular.
=
5.2
Os avanços normativos e seus limites: LGPD e RGPD
Nos últimos a=
nos,
registraram-se avanços normativos significativos no campo da proteção de=
dados
e da regulação algorÃtmica. O Regulamento Geral sobre a Proteção de Da=
dos
(RGPD), da União Europeia, entrado em vigor em 2018, e a Lei Geral de Prot=
eção
de Dados Pessoais (LGPD) brasileira, de 2018, representam marcos importante=
s no
reconhecimento da proteção de dados pessoais como direito fundamental.
A LGPD estabel=
ece
princÃpios relevantes, como a finalidade, a adequação, a necessidade, a
transparência e a responsabilização. Prevê, ainda, direitos dos titular=
es de
dados – acesso, correção, portabilidade, eliminação – e cria a Auto=
ridade
Nacional de Proteção de Dados (ANPD) como órgão regulador (Brasil, 2018=
). O
RGPD vai além, prevendo o direito à explicação de decisões automatizad=
as e a
possibilidade de revisão humana de tais decisões (artigo 22).
Esses avanços,
contudo, não são suficientes para fazer frente à complexidade da socieda=
de de
controle digital. Sob a perspectiva foucaultiana-deleuziana, podem-se
identificar pelo menos quatro insuficiências estruturais.
Em primeiro lu=
gar,
o modelo consentimento-centrado, que orienta tanto a LGPD quanto o RGPD, su=
põe
um sujeito informado, capaz e autônomo, que delibera racionalmente sobre o=
uso
de seus dados. Essa suposição é empiricamente questionável: os termos de
serviço das plataformas são, em geral, extensos, tecnicamente complexos e
redigidos de forma a induzir o consentimento. O consentimento obtido nessas
condições mal pode ser qualificado como livre e informado (Bioni,
2019).
Em segundo lug=
ar,
a lógica individual da proteção de dados é insuficiente para responder a
ameaças que são estruturalmente coletivas. A análise de padrões comport=
amentais
em grandes conjuntos de dados pode revelar informações sobre grupos – e=
tnias,
orientações polÃticas, condições de saúde – mesmo sem que qualquer =
dado
individual seja diretamente tratado. O Direito carece de instrumentos para
proteger dimensões coletivas da privacidade (Rodotà <=
/span>,
2008).
Em terceiro lu=
gar,
os mecanismos de fiscalização e sanção previstos nas legislações vige=
ntes
dependem, em larga medida, de denúncias individuais e de processos
administrativos ou judiciais que pressupõem que o afetado tome conheciment=
o da
violação. Dado que a vigilância digital opera precisamente pela invisibi=
lidade,
esse pressuposto raramente se verifica.
Em quarto luga=
r, a
ausência de padrões globais de regulação cria assimetrias que as grandes
plataformas exploram em seu favor: a chamada corrida ao fundo (race to the bottom) incentiva=
a
instalação de servidores e o registro de empresas em jurisdições com me=
nor
proteção, contornando legislações mais exigentes. A soberania digital n=
acional
convive com a concentração de poder em poucas corporações transnacionai=
s, que,
pelo seu poder econômico e técnico, superam em capacidade de ação muitos
Estados.
=
5.3
Por uma reinvenção paradigmática do Direito
O diagnóstico
foucaultiano-deleuziano sugere que o problema não é apenas de aperfeiçoa=
mento
técnico das normas existentes, mas de ordem paradigmática. O Direito ainda
opera, em sua estrutura profunda, sob a lógica disciplinar: identifica suj=
eitos
determinados (empresas, agentes públicos), prescreve condutas especÃficas,
sanciona violações individualizadas. A sociedade de controle digital exig=
e uma
lógica normativa diferente – capaz de regular fluxos, processos e efeitos
sistêmicos, e não apenas atos individuais.
Algumas tendê=
ncias
emergentes apontam para possibilidades de reinvenção. A regulação por d=
esign (privacy by desi=
gn),
que impõe requisitos de proteção de dados na arquitetura dos próprios s=
istemas
tecnológicos, desloca o foco da responsabilização <=
i>ex
post para a prevenção ex ante. A
avaliação de impacto algorÃtmico (algorithmic
impact assessment) busca antecipar e mitiga=
r os
efeitos discriminatórios de sistemas automatizados antes de seu desenvolvi=
mento
ou implantação.
A regulação =
de
plataformas digitais, exemplificada pelo Digital Services Act
(DSA) europeu, busca tratar as grandes plataformas como infraestruturas
essenciais, sujeitas a obrigações de transparência, interoperabilidade e=
não discriminação
que vão além da proteção individual de dados. Esse movimento em direçÃ=
£o Ã
regulação de infraestruturas de poder é conceitualmente mais consonante =
com a
análise deleuziana do controle, pois trata as plataformas como dispositivos
estruturais de poder.
No plano teór=
ico,
o Direito precisa incorporar as contribuições de disciplinas como a socio=
logia,
a ciência da computação e a teoria crÃtica para desenvolver conceitos e
categorias adequados à regulação do poder digital. Noções como opacida=
de
algorÃtmica, enviesamento sistêmico, extração comportamental e modulaç=
ão de
subjetividade precisam encontrar correspondentes jurÃdicos que permitam sua
tradução em normas, direitos e deveres exigÃveis.
Há, ainda, o =
risco
– apontado tanto por Foucault quanto por Deleuze – de que o Direito, ao=
regular
a vigilância digital, torne-se ele mesmo um instrumento de legitimação do
controle que pretende limitar. A regulação pode criar uma aparência de
legalidade que naturaliza práticas de vigilância, conferindo-lhes o selo =
do
Direito sem efetivamente limitá-las. A criação de obrigações formais de
transparência, sem mecanismos reais de controle, pode servir mais para
legitimar do que para restringir o poder algorÃtmico.
=
CONCLUSÃO
O percurso teórico traçado ao longo deste artigo permite formular algumas conclusões provisórias, na medida em que o objeto de análise – a relação entre Direito e poder digital – está = em permanente transformação.
Em primeiro lugar, as categorias analÃtica= s de Foucault e Deleuze revelam uma continuidade e uma intensificação, e não = uma ruptura, entre o poder disciplinar moderno e o poder de controle digital. A vigilân= cia contÃnua, a produção de saber sobre os indivÃduos e a normalização de comportamentos que Foucault identificou nas instituições do século XVIII encontram, nas plataformas digitais do século XXI, um instrumento de reali= zação incomparavelmente mais eficaz, penetrante e invisÃvel.
Em segundo lugar, o poder contemporâneo é= , como Deleuze antecipou, mais sutil e mais abrangente do que o poder disciplinar.= Não há mais muros para cruzar, saÃdas a obter, confinamentos a superar: o con= trole é contÃnuo, ubÃquo e, em larga medida, autoinfligid= o. A arquitetura das plataformas digitais produz subjetividades que desejam se= r vigiadas, que expõem voluntariamente dados e comportamentos, que internalizam o olhar digital como parte de sua autoidentidade.
Em terceiro lugar, o Direito contemporâneo revela-se estruturalmente insuficiente para regular a complexidade da socie= dade de controle digital. ConstruÃdo para lidar com poderes territorializados, instituições identificáveis e sujeitos determinados, o Direito opera com latência, com territorialidade e com uma lógica individual que o tornam inadequado para responder a formas de poder que são globais, sistêmicas, contÃnuas e atuam sobre subjetividades.
Em quarto lugar, os avanços normativos rec= entes – LGPD, RGPD, DSA – representam passos importantes, mas insuficientes. = Sua insuficiência não é acidental, mas estrutural: resulta da permanência de pressupostos disciplinares numa regulação que tenta responder a um poder = de controle.
A reinvenção do Direito à altura da soci= edade de controle digital demanda, ao menos, três deslocamentos paradigmáticos:= do individual para o coletivo, do ex pos= t para o ex ante e do territorial p= ara o global. Esses deslocamentos não são apenas técnicos – são polÃticos = e implicam disputas de poder sobre quem define as regras do espaço digital.
Encerra-se com uma provocação que condens= a o argumento central deste artigo: se antes o poder vigiava corpos em institui= ções identificáveis, hoje ele antecipa comportamentos em ambientes invisÃveis = – e o Direito ainda tenta alcançá-lo olhando para trás. Superar esse anacronis= mo é a tarefa urgente que se coloca para a teoria e a prática jurÃdicas no sécu= lo XXI.
REFERÊNCIAS=
BIONI, Bruno
Ricardo. Proteção de dados pessoais: a função e os limites do
consentimento. Rio de Janeiro: Forense, 2019.
BRASIL. L=
ei n.
13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pesso=
ais (LGPD).
BrasÃlia, DF: Presidência da República, 2018. DisponÃvel em:
https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Ac=
esso
em: 1 abr. 2025.
DELEUZE, Gil=
les;
GUATTARI, Félix. Mil platôs: capitalismo e esquizofrenia. TraduçÃ=
£o de
Peter Pál Pelbart, Janice Caiafa.
São Paulo: Ed. 34, 1997. v. 5.
DELEUZE, Gil=
les.
Pós-escrito sobre as sociedades de controle. In: DELEUZE, Gilles. <=
b>Conversações:
1972-1990. Tradução de Peter Pál Pelbart. SÃ=
£o Paulo:
Ed. 34, 1992. p. 219-226.
FOUCAULT, Mi=
chel. MicrofÃsica
do poder. 28. ed. Organização e tradução de Roberto Machado. Rio de
Janeiro: Paz e Terra, 2018.
FOUCAULT, Mi=
chel. Vigiar
e punir: nascimento da prisão. Tradução de Raquel Ramalhete. 42. ed.
Petrópolis: Vozes, 2014.
HAN, Byung-Chul. Sociedade da transparência. Tradu=
ção de Enio Paulo Giachini. Petr=
ópolis:
Vozes, 2017.
HARDT, Micha=
el;
NEGRI, Antonio. Império. Tradução de =
Berilo
Vargas. Rio de Janeiro: Record, 2001.
LYON, David.=
Surveillance society:
monitoring everyday=
life. Buckingham: Open Universit=
y
Press, 2001.
MATHIESEN, T=
homas.
The viewer society:=
Michel Foucault's "Panopticon"
revisited. Theoretical<=
/b>
Criminology, London, v. 1, n. 2, p. 215-234,
1997.
MOROZOV, Evg=
eny. To save everything, click here: the folly of
technological solutionism<=
/span>.
New York: PublicAffairs, 2013.
RODOTÀ, Ste=
fano. A
vida na sociedade da vigilância: a privacidade hoje. Organização, se=
leção e
apresentação de Maria Celina Bodin de Moraes. Tradução de Danilo Doneda e Luciana Cabral Doneda.
Rio de Janeiro: Renovar, 2008.
ZUBOFF, Shoshana. A era do capitalismo de vigilância:=
a luta
por um futuro humano na nova fronteira do poder. Tradução de George
Schlesinger. Rio de Janeiro: IntrÃnseca, 2021.