O quarto tenor é um algoritmo?

O caso Meta e o reencontro dos três tenores do Direito Administrativo no Externado

“O Direito aprendeu há muito a desconfiar do poder. O problema é que o poder aprendeu a mudar de roupa.”

Por Glênio S Guedes (advogado)

Há livros que compramos para compreender uma discussão e que, anos depois, parecem ter esperado pacientemente que a realidade lhes acrescentasse um capítulo.

Comprei, numa livraria de Bogotá, um pequeno volume cujo título, para quem se interessa pelo Direito Administrativo, era difícil deixar na prateleira: Los tres tenores del derecho administrativo en el Externado. Ali estavam Pierre Delvolvé, Sabino Cassese e Eberhard Schmidt-Assmann, representantes eminentes, respectivamente, das tradições francesa, italiana e alemã, reunidos na Universidad Externado de Colombia para discutir uma questão venerável e nem por isso resolvida: as relações entre Direito Administrativo e Direito Privado.

Levei comigo o opúsculo. Não poderia imaginar que, anos depois, uma reportagem sobre o julgamento da Meta nos Estados Unidos me faria procurá-lo novamente — e cometer a indelicadeza de acrescentar uma cadeira à mesa.

Os três tenores continuavam lá.

O quarto, porém, não era humano.

Era um algoritmo.

A metáfora, naturalmente, exige cautela. Algoritmos não possuem personalidade jurídica, não celebram contratos, não recebem competência administrativa, não respondem por danos e, até onde consta, jamais disputaram uma cátedra universitária. Mas fazem algo que interessa sobremaneira ao Direito: participam da organização de ambientes nos quais milhões de seres humanos escolhem, comunicam-se, compram, informam-se, entretêm-se e, sobretudo, entregam aquilo que talvez seja a matéria-prima mais disputada de nosso tempo — a atenção.

Foi então que a velha conversa do Externado pareceu subitamente nova.

I. Três tenores e uma velha fronteira

A discussão entre Delvolvé, Cassese e Schmidt-Assmann parte de um problema clássico: qual é, afinal, a relação entre Direito Administrativo e Direito Privado?

A formulação de Schmidt-Assmann é particularmente fecunda. Direito Público e Direito Privado não constituem universos hermeticamente separados, mas duas “partes do regime” (partes del régimen) inseridas em um ordenamento constitucional unitário. A distinção permanece importante; o isolamento, não.

Há nisso uma mudança de perspectiva. O particular dispõe, em princípio, de liberdade; a Administração, de competência. O primeiro não precisa encontrar previamente numa norma a autorização para cada escolha que faz; a segunda encontra-se vinculada à Constituição, à lei, à competência, à finalidade e ao controle.

Isso, entretanto, não significa que o Direito Privado viva numa ilha constitucional. Direitos fundamentais irradiam efeitos sobre relações entre particulares e impõem ao Estado deveres de proteção. A doutrina alemã conhece bem o problema sob a rubrica da Drittwirkung: a liberdade privada não constitui salvo-conduto para que relações de poder economicamente assimétricas permaneçam indiferentes à ordem constitucional.

Não por acaso, Schmidt-Assmann menciona, no pequeno livro do Externado, proteção dos consumidores e proteção de dados.

Consumidores e dados.

A realidade, às vezes, tem pouca sutileza ao escolher seus exemplos.

Porque é exatamente aí que entra a Meta.

II. Quando o particular parece grande demais para a velha fotografia

O processo noticiado envolve 29 Estados norte-americanos, que acusam a Meta de ter projetado Facebook e Instagram de maneira a fomentar dependência entre jovens e de ter coletado e utilizado indevidamente dados pessoais de crianças. A empresa rejeita as acusações e contesta que esteja demonstrado o nexo entre o uso de suas plataformas e a redução do bem-estar dos adolescentes. Estamos, portanto, diante de alegações submetidas a julgamento, e não de fatos que possamos converter antecipadamente em sentença.

Essa cautela processual, porém, não elimina o problema teórico. Ao contrário: permite formulá-lo sem transformar um ensaio jurídico em tribunal de ocasião.

Meta é uma empresa privada. Seus usuários são particulares. Suas plataformas são produtos privados. À primeira vista, estamos confortavelmente instalados na sala do Direito Privado.

Até percebermos o tamanho da sala.

Plataformas digitais estabelecem regras de utilização, organizam conteúdos, hierarquizam informações, recomendam comportamentos, suspendem usuários e constroem ambientes nos quais escolhas são realizadas. Nada disso transforma uma empresa em Estado. Mas tampouco se acomoda perfeitamente à imagem clássica de dois particulares livres e aproximadamente iguais negociando, com solenidade oitocentista, a venda de um cavalo.

O cavalo, convenhamos, jamais estudou seu comprador enquanto era comprado.

A plataforma estuda.

E aprende.

III. Delvolvé pede prudência

Pierre Delvolvé provavelmente começaria por conter nosso entusiasmo.

A existência de poder privado não transforma Direito Privado em Direito Administrativo. Uma empresa poderosa continua sendo empresa; seus algoritmos não são atos administrativos; seus termos de uso não são regulamentos estatais; seus engenheiros não exercem poder de polícia.

Essa resistência dogmática é preciosa.

Se toda relação social assimétrica for declarada administrativa, o Direito Administrativo triunfará de maneira singular: conquistará tudo e, no mesmo instante, perderá sua identidade.

Delvolvé nos obrigaria, portanto, a preservar distinções.

A Meta pode estar submetida a regras públicas intensíssimas sem tornar-se Administração Pública. Proteção do consumidor, responsabilidade civil, proteção de dados, concorrência e tutela da infância podem limitar severamente a autonomia privada sem que seja necessário nacionalizar conceitualmente o Instagram.

O primeiro tenor nos advertiria: não confundamos relevância pública com natureza pública.

E faria bem.

IV. Cassese olha para o poder, não apenas para a certidão de nascimento

Sabino Cassese, contudo, provavelmente deslocaria nosso olhar.

A pergunta não seria somente: quem é a Meta juridicamente?

Seria também: que espécie de poder ela exerce socialmente?

Aqui a velha separação entre Estado e sociedade começa a mostrar rugas.

Organizações privadas transnacionais podem estruturar espaços de comunicação utilizados por populações superiores às de muitos Estados; estabelecer unilateralmente regras; controlar infraestruturas informacionais; organizar visibilidade; recolher volumes extraordinários de dados e alterar suas arquiteturas mediante decisões tomadas muito longe daqueles sobre quem produzirão efeitos.

Nada disso as converte em soberanas.

Mas tudo isso recomenda não tratá-las como meras vendedoras de mercadorias.

Cassese nos obrigaria a olhar para o poder privado de relevância pública.

O segundo tenor talvez perguntasse: se uma organização privada consegue estruturar condições concretas sob as quais milhões de pessoas exercem determinadas liberdades, basta ao Direito perguntar quem é seu proprietário?

A pergunta incomoda porque a resposta já não cabe confortavelmente nas antigas gavetas.

V. Schmidt-Assmann troca a gaveta pela caixa de ferramentas

É Schmidt-Assmann, entretanto, quem talvez forneça o instrumento mais adequado ao caso.

Em sua terceira perspectiva, ligada à Steuerung, o interesse desloca-se da obsessão classificatória para a maneira pela qual o Direito orienta, conduz e conforma processos sociais e administrativos. “Direção” ou “controle” são traduções possíveis, mas incompletas: não se trata apenas de comandar hierarquicamente, e sim de perguntar quais instrumentos jurídicos, combinados entre si, são capazes de produzir determinada finalidade sem abandonar legitimidade, direitos fundamentais e controle.

Aplicada à Meta, a mudança é considerável.

Em vez de:

Meta pertence ao Direito Público ou ao Direito Privado?

perguntamos:

quais instrumentos jurídicos devem governar os riscos decorrentes do poder que ela exerce?

Responsabilidade civil? Defesa do consumidor? Proteção de dados? Direito concorrencial? Regulação administrativa? Obrigações de transparência? Auditoria? Deveres procedimentais? Limitações específicas quando crianças estão envolvidas?

Não é necessário escolher uma única porta. O ordenamento constitucional possui um corredor inteiro.

E o processo contra a Meta torna isso particularmente visível.

VI. Quando o Direito quer entrar no desenho

Os Estados demandantes não pretendem apenas indenizações. Segundo a reportagem, buscam também modificações nas próprias características das plataformas, inclusive quanto a curtidas, rolagem infinita, limites temporais de utilização por jovens e restrições ao acesso de menores de 13 anos.

Aqui acontece algo juridicamente extraordinário.

O Direito não está dizendo somente:

“Você causou um dano; repare-o.”

Está ensaiando dizer:

“Você deverá desenhar seu produto de outra maneira.”

Há uma progressão que merece ser percebida:

regular a conduta → regular o produto → regular o design → regular a arquitetura das escolhas.

Passamos da responsabilidade pelo comportamento à governança da arquitetura.

E eis que aparece nosso quarto tenor.

A rolagem infinita não ordena que continuemos olhando a tela. Faz algo mais delicado: elimina aquele pequeno instante em que seria necessário decidir continuar.

Uma recomendação algorítmica não expede portaria determinando que vejamos outro vídeo. Coloca-o diante de nós.

A notificação não sequestra ninguém. Apenas chama. Depois chama novamente. Possui a cortesia peculiar dos mecanismos de captura: jamais obriga a ficar; apenas trabalha para que partir seja um pouco mais difícil.

Temos, portanto, como tipos ideais, distintas formas de conformação da conduta:

a lei prescreve;o contrato vincula;a Administração ordena;a arquitetura induz.

Essa quarta linha talvez contenha uma das questões jurídicas fundamentais de nosso tempo.

VII. Afinal, o quarto tenor é mesmo um algoritmo?

Não.

E precisamente por isso o título importa.

Transformar algoritmos em sujeitos quase metafísicos serviria mais para absolver seres humanos do que para compreender tecnologia. Algoritmos são concebidos, selecionados, treinados, modificados, implantados e utilizados por organizações humanas.

A Meta continua sendo o sujeito jurídico.

O algoritmo é uma das arquiteturas tecnológicas pelas quais determinadas formas de poder podem adquirir alcance, velocidade, personalização e opacidade inéditos. Nem sequer esgota o fenômeno: a rolagem infinita, as notificações e outras decisões de design demonstram que a conformação tecnológica da conduta é mais ampla do que o algoritmo propriamente dito.

Nosso quarto tenor é, portanto, uma metáfora para algo mais rigoroso:

o poder privado tecnologicamente arquitetado.

A novidade não está em particulares exercerem poder. Sempre exerceram.

Está na possibilidade de fazê-lo continuamente, individualizando estímulos, aprendendo com respostas, alterando ambientes e alcançando simultaneamente milhões ou bilhões de pessoas.

O poder não se tornou não humano.

Ganhou próteses não humanas.

VIII. Mas cuidado com o maestro

Chegados aqui, seria tentador convocar o Estado para salvar-nos do algoritmo.

Convém resistir à facilidade.

Se plataformas podem ameaçar autonomia, privacidade e direitos fundamentais, o poder estatal continua capaz de fazer exatamente o mesmo — com uma diferença pouco tranquilizadora: dispõe também de coerção legítima.

Regular arquiteturas digitais envolve liberdade de expressão, liberdade empresarial, inovação, devido processo e segurança jurídica. E envolve, sobretudo, proporcionalidade.

Não basta ao Estado demonstrar que sua intenção é boa — mercadoria que governos, aliás, raramente tiveram dificuldade em oferecer. É necessário indagar se determinada intervenção é adequada ao fim pretendido, se existe alternativa menos restritiva e se os benefícios esperados justificam o sacrifício imposto às liberdades envolvidas.

Não se trata, portanto, de escolher entre a inocente Administração e a perversa plataforma. O Direito raramente nos concede personagens tão cômodos.

A pergunta correta é mais difícil:

como limitar simultaneamente o poder privado e o poder público, preservando a liberdade que ambos afirmam proteger?

É aqui que os três tenores recuperam toda a importância.

Delvolvé impede que dissolvamos categorias em nome da novidade.

Cassese impede que categorias antigas nos tornem cegos às novas formas de poder.

Schmidt-Assmann ensina-nos a procurar instrumentos, articulações, garantias e controles.

O algoritmo entrou na sala como acusado; convém apenas cuidar para que o regulador não saia dela como tenor absoluto.

IX. Algo mudou?

Sim.

E não.

Não mudou a questão fundamental do Direito Público: como domesticar juridicamente o poder sem destruir a liberdade?

Mudou, porém, a fenomenologia desse poder.

O Direito Administrativo habituou-se a desconfiar do decreto, do regulamento, da licença, da sanção, da polícia e da burocracia. Agora precisa aprender também a observar interfaces, sistemas de recomendação, modelos de negócio, dados e arquiteturas digitais.

Talvez a fronteira decisiva do século XXI já não possa ser desenhada apenas como:

Estado × particular.

Precisaremos pensar, crescentemente, em:

poder público × poder privado × arquitetura tecnológica × direitos fundamentais.

Isso não torna inútil a distinção entre Direito Público e Direito Privado.

Torna-a mais difícil.

E, justamente por isso, mais necessária.

X. De volta à livraria de Bogotá

Anos atrás, saí daquela livraria de Bogotá levando debaixo do braço três tenores e uma velha pergunta: onde termina o Direito Administrativo e começa o Direito Privado?

O livro continua o mesmo.

A pergunta, não.

Entre uma leitura e outra apareceram sistemas capazes de selecionar informações, antecipar preferências, recomendar condutas e disputar aquilo que talvez seja o recurso mais escasso de nossa época: a atenção humana.

Por isso, ao reabrir o pequeno volume do Externado, pareceu-me haver uma cadeira a mais naquela mesa.

Delvolvé talvez protestasse contra o abuso da metáfora. Cassese provavelmente perguntaria que espécie de poder concedemos ao recém-chegado. Schmidt-Assmann, suspeito, procuraria imediatamente saber quais instrumentos jurídicos poderiam controlá-lo.

Os três teriam razão.

Porque o quarto tenor não é propriamente o algoritmo. É o poder privado tecnologicamente arquitetado que o algoritmo permite exercer em escala inédita.

Talvez essa seja a verdadeira novidade.

O Direito Administrativo nasceu, em larga medida, em torno de uma pergunta que atravessou revoluções, constituições, impérios, repúblicas e burocracias:

quem controla o poder?

Dois séculos depois, a pergunta permanece.

O poder é que aprendeu a cantar com outra voz.