Resumo: O presente artigo aborda as concepções sociais de vigilância e poder através da ótica constitucional das liberdades individuais. Com enfoque na proteção de dados e nos elementos de privacidade presentes no ordenamento jurídico atual, este artigo visa coadunar conceitos sociais e teóricos com a sociedade digitalizada, evidenciando os meandros de uma nova conceituação jurídica dos temas debatidos. O método de abordagem foi o dedutivo, em que se partiu de uma perspectiva macro da realidade social de uma era digitalizada para concluir que o estado de vigilância presenciado na era atual pode afetar o cerne das liberdades individuais constitucionais, notadamente pela violação itinerante à privacidade. A pesquisa ostenta caráter qualitativo, enfatizando a subjetividade do assunto e com maior interesse pelo processo (análise crítica) do que pelos resultados. A técnica de pesquisa foi a de revisão bibliográfica de fontes primárias e secundárias, por meio da qual se buscou material em livros temáticos, artigos científicos publicados em periódicos diversos, assim como análise legislativa.
Palavras-chave: Liberdades individuais constitucionais. Estado de vigilância. Privacidade. Proteção de dados. Sociedade digital.
Introdução
O mundo digital enquanto forma social típica trouxe significativas alterações para as ciências sociais, notadamente para o âmbito jurídico. Também alcunhada de digitalização do comportamento, a presença predominante do indivíduo em ambientes não físicos revela que perante a nova dinâmica social, alguns bens jurídicos sofrem maior incidência de uma premente violação.
O principal bem jurídico afetado de maneira reflexa por essa novel dinâmica é a liberdade, através das recorrentes investidas contra a privacidade dos indivíduos. Isso porque, o compartilhamento massivo de dados pessoais e a enxurrada de diagnósticos que podem ser extraídos das condutas humanas acaba conclama a revisão de teóricos da era analógica, a exemplo de Michel Foucault, que muito antes da disseminação massiva da internet, já alertava sobre os feixes entrecruzados de controle difuso e autorregulação do “corpo social”.
Cediço que há uma correlação entre o tratamento de dados com as concepções de vigilância e controle social no que tange às liberdades individuais. Discute-se, nesta oportunidade, o grau da eficácia legislativa brasileira com relação ao seu objetivo principal, qual seja, o de proteger os direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade da pessoa natural (art. 1º da Lei nº 13.709/19), e, por fim, analisar os impactos jurídicos que a implementação da inovação legal poderá proporcionar mediante a coleta de informações, sobretudo o consentimento do titular de dados.
A privacidade enquanto direito fundamental
O termo privacidade é oriundo do latim “privatus” e significa “separado do resto”. De modo ampliativo, diz respeito à habilidade dos indivíduos (ou grupos) de afastar a si próprios e, consequentemente, revelar apenas as suas informações que desejam, de modo seletivo. Portanto, “privacidade é o poder de uma pessoa seletivamente revelar suas informações ao mundo” (HUGUES, 1993, p. 53).
Apesar do termo variar bruscamente de cultura para cultura, no seio social de cada uma delas e ao longo do tempo, a privacidade continuará sendo, de maneira perene, um seleto requisito para revelação de informações pessoais em função de um determinado contexto (ambiente, situação, pessoas, redes sociais, etc.).
Insta frisar que privacidade não é sinônimo, necessariamente, de segredo - esse diz respeito às informações que não devem ser partilhadas em momento algum, em nenhum contexto. Já a regulação da privacidade está ligada com a relação de “para quem” se revela e “o que” se revela, atrelando-se necessariamente ao contexto. Daí a importância de “como revelar” uma informação de maneira seletiva.
Conscientemente ou não, os indivíduos exercem o controle de privacidade em seu cotidiano. Por exemplo: o que se fala em um bar talvez não seja dito em um templo religioso. O que se revela a um amigo íntimo talvez não seja revelado a uma pessoa desconhecida. Dados do cartão de crédito são fornecidos para websites de comércio eletrônico, mas não são ostentados às pessoas que nos cercam. Isso tudo integra e emoldura o plano fático da privacidade, seu cunho social e reflexos contemporâneos.
Em outro turno, já no plano normativo, a Constituição da República Federativa do Brasil de 1988 prevê, em seu art. 5º, inciso X, que “são invioláveis a intimidade, a vida privada, a honra e a imagem das pessoas, assegurado o direito a indenização pelo dano material ou moral decorrente de sua violação”. Nessa senda, firma garantias fundamentais de proteção à privacidade de modo geral que são tuteladas pelo Estado de Direito, doravante intituladas de liberdades individuais constitucionais, cuja proteção é a finalidade mor da Lei Geral de Proteção de Dados, conforme dispõe seu art. 1°, o objetivo de “proteger os direitos fundamentais de liberdade e de privacidade e o livre desenvolvimento da personalidade da pessoa natural”.
De acordo com Mendes (2008, p. 4), “a utilização massiva de dados pessoais por organismos estatais e privados, a partir de avançadas tecnologias da informação, apresenta novos desafios ao direito à privacidade. A combinação de diversas técnicas automatizadas permite a obtenção de informações sensíveis sobre os cidadãos, que passam a fundamentar a tomada de decisões econômicas, políticas e sociais”.
E, não por outro motivo, entram em jogo diversas características da pessoa humana guarnecidas pela rigidez constitucional. A saber, a dignidade da pessoa humana, sua livre disposição de consciência, sua autodeterminação, e, por óbvio, sua vida íntima, dentre outras.
Segundo Ramos (s.d., p. 2),
a dignidade da pessoa humana é uma qualidade inerente a cada ser humano, e que na qualidade de princípio fundamental possui como principal característica o fato de serem elemento e medida dos direitos fundamentais. Deste modo, observa-se que em regra a violação a um dos direitos fundamentais à privacidade estará sempre vinculada a uma ofensa à dignidade da pessoa humana. O princípio da dignidade da pessoa impõe limites ao poder estatal, visando impedir que o poder público venha a violar a dignidade pessoal, mas igualmente implica em que este mesmo Estado venha a promover a proteção e promoção de uma vida com dignidade para todos.
Desse modo, eventuais violações ao cerne privativo fundamental do indivíduo acarretarão em violações reflexas às demais liberdades individuais constitucionais, eis que compõem um rol interligado de livre disposição, que, por ação natural ou provocada, podem ser afetados sob pena de ineficácia, devendo manter-se incólumes.
Para Pilati e Olivo (2014, p. 9), apud Silva (2009, p. 206):
toma-se, pois, a privacidade como o conjunto de informações acerca do indivíduo que ele pode decidir manter sob seu exclusivo controle, ou comunicar, decidindo a quem, quando, onde e em que condições, sem a isso poder ser legalmente sujeito. A esfera de inviolabilidade, assim, é ampla, abrange o modo de vida doméstico, nas relações familiares e afetivas em geral, fatos, hábitos, local, nome, imagem, pensamentos, segredos e, bem assim, as origens e planos futuros do indivíduo.
As liberdades individuais, ou liberdades civis, por sua vez, são aquelas protegidas constitucionalmente. São os direitos subjetivos presumidos e salvaguardados pela Constituição que protegem o cidadão do poder discricionário do Estado de modo a evitar o autoritarismo e a tirania. Há alguns tipos de liberdades asseguradas pela Carta Magna, por exemplo: a livre expressão de pensamento e expressão, a liberdade de consciência e de crença, a inviolabilidade de direitos por motivos de convicção política, a liberdade artística, intelectual, sendo guarnecidas, dentre todas as outras, também a vida privada, a honra e a imagem individual.
Segundo França (s.d., p. 4), “a vida privada representa a área de autodeterminação do ser humano nas relações com outros cidadãos, no que diz respeito à sua família e círculo de amizade”.
Importa também frisar que direito à privacidade não necessariamente diz respeito a direito à informação. Não por acaso, existe uma legislação específica para a modalidade informacional e remédio constitucional próprio (habeas data), notadamente quando se trata de informações oriundas de órgão público. Por outro lado, o direito à intimidade deve ser enfrentado de maneira expansiva, vez que está em constante mutação no tempo e no espaço.
Bem por isso, e por envolver temas de que dimanam aspectos pessoais e culturais, deve ser concebido de “forma aberta”, dinâmica e flexível, de modo a acompanhar essa constante evolução (SAMPAIO, 1998, p. 262-263).
Com substrato principiológico assentado na dignidade da pessoa humana, o direito à intimidade integra a categoria dos direitos da personalidade e, nessa condição, é oponível erga omnes, intransmissível à esfera jurídica de outrem, indisponível e extrapatrimonial.
Celso Ribeiro Bastos (2004, p. 71) afirma que:
o direito à intimidade consiste na faculdade que tem cada indivíduo de obstar a intromissão de estranhos na sua vida privada e familiar, assim como de impedir-lhes o acesso a informações sobre a privacidade de cada um, e também impedir que sejam divulgadas informações sobre essa área da manifestação existencial do ser humano.
No Brasil, as expressões “direito à vida privada”, “direito à intimidade”, “direito à privacidade”, “direito ao resguardo” e “direito de estar só” são frequentemente utilizadas como sinônimas, e não há unanimidade quanto à existência de distinção conceitual entre elas (FREGADOLLI, 1997, p. 207).
Atualmente o direito à privacidade difere muito daquele conteúdo delineado em sua origem – o direito a estar só. A sociedade mudou, e o singelo caráter de isolamento já não dá conta de toda a realidade. Um conceito mais dinâmico do instituto abarca também o direito a controlar o uso que outros fazem das informações pessoais, como projeção do respeito à vida privada e à intimidade.
De fato, o indivíduo é centro de referência de informações. Dele sai ou nele ingressam uma série de dados que passam por um processo de assimilação ou descarte. Nesse contexto, o direito à privacidade deve conferir ao cidadão um poder de controle sobre a circulação de informações a seu respeito, cabendo-lhe a decisão sobre quando, como, em que extensão e para que finalidade determinada informação será conhecida por terceiros.
Nem toda informação, entretanto, interessará à tutela constitucional. Existe uma gama de dados pessoais cujo conhecimento e divulgação não avançam propriamente sobre a esfera da privacidade do indivíduo.
Em geral, pode-se dizer que a invasão na intimidade e na vida privada pressupõe o conhecimento de uma particular informação que seu titular não deseja ser obtida por outros. Nessa ordem de ideias, a privacidade guarda relação com a vontade individual, com a necessidade de se expor e, ainda, de se retrair frente aos demais indivíduos, guardando para si, se assim necessitar, suas informações pessoais. Informações tais, que são objeto precípuo de proteção da LGPD, conforme se verá no delinear desta pesquisa.
Para José Adércio Leite Sampaio (1998, p. 374-375),
informação pessoal não pode ser entendida como ‘segredo’ ou como ‘informação confidencial’, senão como, literalmente, ‘informação a respeito de uma pessoa’, o que pressupõe o seu caráter nominativo. Vale dizer, capacidade de identificar ou tornar identificável, direta ou indiretamente, a pessoa a que se refere.
Neste escrito, as expressões “dados pessoais” ou “informações pessoais” são utilizadas em seu sentido geral, como o elemento que, ao menos potencialmente, uma vez consultado, revela aspectos da privacidade de determinada pessoa. São informações concernentes a uma pessoa singular, identificada ou identificável, capazes de dizer algo sobre sua personalidade e passíveis de ser captadas, armazenadas, processadas ou transmitidas por meio informatizado ou analógico (físico).
Outro fato de suma importância é o êxodo analógico das informações para o seio digital que aumenta sobremaneira o enfoque atual e a relevância da privacidade e da autodeterminação.
Em virtude do aumento da informação por todo o globo, surgiram novas formas de se manejar, armazenar e utilizar dados pessoais, fato que refletiu em uma imensa quebra de paradigma na conceituação do Direito, de tal modo que, o que antes era informação avulsa, tornou-se organizada. Violar o direito à personalidade, e por conseguinte a própria privacidade, é muito mais comum nos tempos atuais. Com isso, a utilização ilícita dos dados coletados dão azo à classificação discriminatória de pessoas, marketing abusivo, vigilância estatal, publicidade comportamental, entre outras práticas.
Para tanto, vale expandir, ainda que de maneira breve, o conceito de privacidade, para melhor absorver a análise da importância da Lei Geral de Proteção de Dados. Apesar de sua substantivação no direito brasileiro, a disciplina da proteção de dados ainda não é praticada amplamente no Brasil.
Conforme supracitado e, mesmo que no direito norte-americano seja comum a definição de privacidade como “o direito de ser deixado só” (tradução livre para “the right to be left alone)”[1], no texto constitucional, o tema ganhou status de direito fundamental, principalmente ao resguardar a inviolabilidade da correspondência, bem como o direito à intimidade e à vida privada.
Tal abordagem, entretanto, utilizou o termo “privacidade” como sinônimo de “intimidade”, e acabou por gerar uma dualidade na conceituação da privacidade por parte da doutrina. O direito à intimidade é quase sempre considerado como sinônimo do direito à privacidade. Esta é uma terminologia do direito americano (right of privacy), para designar aquele, mais empregada no direito dos povos latinos.
A Constituição Federal prevê também o direito do cidadão de não ter revelado os fatos que não deseja, tutelando, portanto, o âmbito cível e até mesmo penal, para responsabilizar o infrator do ilícito gerado, mas principalmente com sanção patrimonial. Já no Código Civil, a questão da privacidade também foi levada em consideração, embora que de forma genérica.
A abordagem ocorre no Livro I “Das Pessoas”, destacando a proteção de divulgação de escritos, da transmissão da palavra, e da exposição ou utilização da imagem das pessoas físicas ou jurídicas que poderão ser proibidas de imediato, inclusive se o intuito for apenas comercial, sem falar em prejuízo no tocante à fama, honra e respeitabilidade, questões também protegidas pelas normas citadas.
Assim, depreende-se que a “privacidade” está adstrita aquilo que é particular ao indivíduo, figurando como gênero contido na espécie “intimidade”. A personalidade por sua vez, não é apenas um direito, mas sim o alicerce que o sustenta, haja vista que da personalidade irradiam obrigações e garantias tuteladas pelo ordenamento pátrio.
Sob esse prisma é possível identificar que o direito de privacidade visa preservar e garantir o desenvolvimento do indivíduo, defendendo-o de agressões praticadas contra a sua identidade intelectual, física e moral. E, uma vez havendo ameaças à autodeterminação individual, faz-se necessária a proteção de dados pessoais.
Proteção De Dados: Aspectos Relevantes
Partindo-se da premissa de que os dados pessoais detêm status de alto valor na conjuntura mundial e brasileira, exercendo verdadeiro papel econômico para quantificar desempenhos, garantir vantagens mercantis e também funcionando como alicerce de vigilância para proporcionar segurança às nações, por meio de engenharia social, o escopo jurídico atrela-se inarredavelmente a uma função imperiosa: a garantia de sua proteção.
A utilização sempre mais ampla de dados pessoais para as mais variadas atividades – identificação, classificação, autorização e tantas outras – transforma “simples dados” em elementos essenciais para que a pessoa possa se mover com autonomia e liberdade nos corredores do que hoje costumamos denominar de Sociedade da Informação (CASTELLS, 1999, p. 84).
O tratamento de dados pessoais é uma atividade de risco. Este risco é delineado pela premente possibilidade dos dados coletados não estarem submetidos à lídima representação de seu titular ou ainda, estarem sendo utilizados por pessoas alheias à atividade de tratamento.
Também por isso é que se faz imperiosa a adoção de políticas públicas e privadas para informar o titular de dados. É incontroverso que a essência de um dado pessoal, é a própria personalidade do agente representado, e deve ser objeto de proteção, eis que detém caráter de direito fundamental.
Nessa seara, algumas ferramentas mostram-se muito presentes na atualidade, participando ativa ou passivamente na vida cotidiana geral, muitas vezes sem o próprio discernimento ou consciência voluntária da pessoa (titular) que tem seus dados tratados. Um grande exemplo é o “caldeirão digital” que traduz o fato de que, majoritariamente, as pessoas naturais estão inseridas nos bancos de dados.
Desde a concepção natural do ser humano à essa existência, seus dados já são coletados, difundidos, compartilhados e armazenados. Desde o dia mais singular (com exceção do fim) de sua vida, o titular de dados já está alimentando banco de dados, quer saibamos ou não.
O que muda no momento atual, é a estruturação organizada da informação, conforme salienta Stefano Rodotà (1973), “ a novidade fundamental introduzida pelos computadores é a transformação de informação dispersa em informação organizada.”
Conforme apregoa Catala (1983),
mesmo que a pessoa em questão não seja a autora da informação, no sentido de sua concepção, ela é a titular legítima de seus elementos. Seu vínculo com o indivíduo é por demais estreito para que pudesse ser de outra forma. Quando o objeto dos dados é um sujeito de direito, a informação é um atributo da personalidade.
E quando tais atributos da personalidade dizem respeito à condutas cotidianas, a velocidade inigualável dos dados e da tecnologia pode ultrapassar qualquer regulamentação jurídica-estatal. Permitindo-se o desafogo conceitual, a demonstração pragmática dos efeitos (benéficos ou nefastos) da proteção de dados deve ser levada a efeito.
A empresa Amazon lançou o robô “Alexa” (gadget-device) no ano de 2014. A sua função primordial é a de robô-assistente, modulando efeitos sonoros, funcionando como despertador, buscador online, conectando-se com todos os dispositivos internos da casa do seu dono, através de uma rede local. Este fenômeno de interligar-se simultaneamente aos dispositivos domiciliares (televisão, luzes, amplificadores, videogames, aparelhos de cozinha, etc.) é denominado Internet das Coisas (Internet of Things - ioT).
No ano de 2017, a Alexa exerceu impecável papel de polícia judiciária nos Estados Unidos. O caso ocorreu no Novo México, quando um homem e sua namorada estavam em meio a uma acalorada discussão, sob a alegação de que a companheira havia traído o namorado. Ato contínuo, o rapaz começou a desferir todo tipo de ameaça verbal, culminando no disparo com arma de fogo para amedrontar os ocupantes da casa, principalmente a namorada.
Esse caos foi seguido da seguinte frase: “você chamou a polícia?” Para o desgosto do agressor, os sistemas de captação de áudio do robô Alexa captaram o sinal sonoro emitido pelo homem e interpretaram o conjunto de palavras como uma ordem (vez que ela é programada para atender chamados de emergência, e fazer contato com a polícia quando requerido).
Bastaram alguns minutos para que a ocorrência fosse atendida, o criminoso percebesse que estava sob perseguição, o que infelizmente resultou em brutais agressões à mulher que não havia contatado a polícia de fato, mas sim, sido igualmente surpreendida por um fenômeno extrajurídico: o fenômeno disruptivo-tecnológico.
O caso foi amplamente elogiado pela comunidade local, mostrando a efetividade real desse dispositivo para realizar, por mais cômico que pareça, uma prisão em flagrante. De fato, pode ter poupado vidas nessa ocorrência específica. Entrementes, como a preocupação nesta obra é a proteção de dados pessoais, até que ponto este input informacional exarado pelo robô-assistente foi positivo?
Imagine-se que de maneira igualmente enérgica, um casal, dentro do abrigo inviolável, ao manter relações sexuais e proferindo palavras de baixo calão, hipoteticamente ameace de morte o(a) companheiro(a), no sentido erótico dos termos. O robô, utilizando-se de seus sistemas invasivos de captação sonora perene, poderia interpretar o enredo como uma agressão física, realizando um chamado à polícia local.
Ao chegar no local, há o registro de uma ocorrência, mediada pela invasão ao núcleo privativo do casal, revelando-se como uma situação no mínimo vexatória, “colocando em xeque” qualquer confiabilidade no algoritmo do robô, porquanto violada a privacidade dos indivíduos, revelando seus dados à comunidade local de polícia, por exemplo.
Esse exercício hipotético não é difícil de ocorrer, tendo em vista a recalcitrância dos atos e ocorrências que sucedem o episódio criminal do robô-assistente. O que se questiona é até que ponto os gadgets e devices podem ser úteis sem violar a privacidade dos titulares.
Delineada, brevemente, a questão da Internet das Coisas enquanto elemento natural a ser desenvolvido quando se preocupa com proteção de dados, há de ser levado em conta o caminho pelo qual a tecnologia utiliza para tirar conclusões, tomar decisões, ativar ou desativar mecanismos, alterando a vida das pessoas em geral.
E justamente esse “caminho” pode ser definido em uma concepção concisa do termo, como algoritmo. Um algoritmo, de maneira simplificada, pode ser tido como sequência limitada de atos executáveis com o escopo de solucionar algum tipo de problema[2]. O conceito de algoritmo existe há séculos e o uso do conceito esteve presente em todas as sociedades, eis que toda ação, para se concretizar, necessita da estrita observância de passos e etapas previamente programadas para se atingir um determinado fim.
Não se confunde, entretanto, programas de computadores com algoritmo. Um pode ser hospedeiro dos passos necessários para realizar determinada tarefa. Isso não significa dizer que são a mesma coisa.
Conforme pesquisa realizada na década passada por Nuno Miguel da Conceição, “o programador, quando vai elaborar um algoritmo, passa para o código o seu ponto de vista, com vieses e preconceitos". Da mesma maneira afirma Priscilla Silva, pesquisadora em Direito e Tecnologia do ITS-Rio que "mesmo os algoritmos de machine learning, que aprendem sozinhos, dependem dos dados que são alimentados por humanos, que podem cometer erros".[3]
Ora, se as tecnologias que hoje utilizam-se dos dados pessoais dos titulares para proporcionar determinado serviço ou comodidade (buscadores, “gps”, redes sociais, personalização sonora, visual, etc.) por meio de um “caminho”, diga-se, algoritmo elaborado por um humano, a proteção de dados é a barreira jurídica para a violação ao direito fundamental de liberdade.
Em outras palavras, um algoritmo mal elaborado pode deixar sequelas irreparáveis no titular de dados, ocasionado danos reflexos, diretos ou até mesmo inconscientes. Como toda tecnologia, respeitando o princípio do mentalismo, deve ser pensada antes de ser executada, as violações à privacidade decorrem de um animus específico do programador (figurativamente falando). Equipara-se o animus do tratamento de dados ao animus do legislador, emergindo um certo (e subjetivo) “espírito” tecnológico.
Cumpre saber se tais intenções estão munidas de boa-fé, encampadas em plena conformidade com as legislações de apreço, ou se guarnecem pretensões escusas. De fato, não há como sopesar friamente a “intenção algorítmica” atual de maneira geral, e isso porque o tratamento de dados pessoais, hoje, passa quase que inevitavelmente por composições algorítmicas, revelando seus vieses.
Um grande problema de basear-se nesses teoremas é porque ninguém sabe ao certo a fórmula do algoritmo, exceto seu dono. Há muitos casos em que eles são construídos e acabam tendo um efeito discriminatório. Muitas pessoas podem ficar fora de listagens, que pode ser de concessão de crédito, ou porque caíram em uma fórmula de algoritmo que não necessariamente se espelha em sua realidade, por exemplo.
O caráter inevitável dos caminhos para o tratamento de dados, mesclando a atuação homem-máquina, ocasionam um “estado paralelo” de fato, penetrando no tecido social com uma função eminentemente vigilante. Esse fato jurídico não é necessariamente bom ou mau, mas sim, existente. Obtendo consciência desse fato social, cabe ao Direito enquanto mecanismo de regulação social frear seus efeitos maléficos através da proteção de dados pessoais, ao passo que deve construir arcabouço acadêmico e literário que contemple a disrupção atual, a qual, frisa-se, está anos luz à frente dos manuais e códigos obsoletos que vigoram.
O estado de vigilância no mundo digital
Um marco na história da privacidade veio do advento da evolução tecnológica, bem como dos meios de comunicação, o desenvolvimento da internet e o surgimento das redes sociais, verdadeiros palcos da exposição do cotidiano. O monitoramento da vida íntima foi extremamente facilitado pelas novas tecnologias, restando cada vez mais frágil a tutela a esses direitos protegidos.
Mesmo se tratando de um romance, George Orwell previu em sua obra “1984” que haveria uma transposição da privacidade alheia em detrimento dos avanços tecnológicos. Na obra, os cidadãos eram reféns da ilusória sensação da benevolência estatal, da utilidade mecanicista da academia, e da ficção sob a qual estavam submetidos. Paradoxalmente, as tais ilusões ainda exaram suas nuances nos dias atuais.
Com efeito, o estado era tido como um “Grande Irmão”[4], o qual se dedicava à vigilância contínua e geral a fim de supostamente evitar o caos e a desordem. Isso é facilmente demonstrado nos dias de hoje pela maneira como a rede mundial de computadores se apresenta na praxe cotidiana. Cada vez mais os aplicativos, sites e redes sociais aumentam a acurácia de funcionamento através da coleta exacerbada de dados.
Ademais, os dados coletados nesse monitoramento cibernético são perenes e, portanto, investigáveis, em tese, por qualquer pessoa que tenha interesse em ter acesso a essas informações. Assim, pode-se concluir de maneira lógica que o aumento do que é monitorado implica o aumento do que é investigável, ocasionando um status de vigilância contínuo.
Nesse contexto, a questão da privacidade no âmbito virtual deve receber cada vez mais atenção da sociedade, uma vez que o seu tênue limite é cada vez mais invadido pela tecnologia. Isso ocorre sempre que um usuário visita um site, preenche formulários virtuais, anui (muitas vezes mediante vícios de consentimento), e, o que é pior, sem certeza alguma da destinação dos dados fornecidos.
É cediço que na atual fase tecnológica em que a sociedade se encontra, a informação é um dos bens de maior valor. Por essa razão, a sua proteção deve ser questão de importância máxima, merecendo a atenção do legislador. Por óbvio, insta salientar que o desenvolvimento tecnológico vigilante não apresenta tão somente aspectos negativos. A evolução da tecnologia dos mecanismos de monitoramento proporciona uma queda no tempo e nas despesas envolvidas em buscas, por exemplo, dentre outras facilitações.
Por tais comodidades, é que o titular investigado (ou sob vigilância), deve saber que sua privacidade pode estar sendo invadida. De um lado, a pessoa que busca as informações o faz muito mais rapidamente e com baixo custo econômico e, de outro lado, a pessoa vigiada tem menor possibilidade de aperceber-se disso, compreendendo o fato social complexo que é o estado de vigilância.
Tendo em vista que estão inseridas nesse contexto, as informações atinentes ao arbítrio e ações dos titulares vinculam-se obrigatoriamente à regulação de um ente (figurativo) detentor de poder. De maneira geral, o ente munido de coação é (ou era) o Estado, todavia no âmbito cibernético, essa relação tende a escorrer pelo tecido social, permeando camadas mais distantes (extremas) e descentralizadas, culminando no Estado de Vigilância, difundido pelo autor Michel Foucault (1979, p. 182):
Trata-se [...] de captar o poder em suas extremidades, lá onde ele se torna capilar; captar o poder nas suas formas e instituições mais regionais e locais, principalmente no ponto em que, ultrapassando as regras de direito que o organizam e delimitam, ele se prolonga, penetra em instituições, corporifica-se em técnicas e se mune de instrumentos de intervenção material [...] Em outras, palavras, captar o poder na extremidade cada vez menos jurídica de seu exercício” (FOUCAULT, 1979, p. 185).
Não obstante, para Foucault (1987, p. 153-154), a descentralização do poder, que no caso da tecnologia em dados cinge-se ao fato de obter informações sensíveis atingindo o núcleo fundamental de liberdade humana protegida pela Constituição Federal de 1988 (outrora monopólio estatal), se utiliza de técnicas múltiplas, manejadas entre os cidadãos a fim de manter e perpetuar um poder regulador:
Ao lado da grande tecnologia dos óculos, das lentes, dos feixes luminosos, unida à fundação da física e da cosmologia novas, houve as pequenas técnicas das vigilâncias múltiplas e entrecruzadas, dos olhares que devem ver sem ser vistos; uma arte obscura da luz e do visível preparou em surdina um saber novo sobre o homem, através de técnicas para sujeitá-lo e processos para utilizá-lo.
Assim, para o autor, a vigilância social ocorre de maneira hierarquizada e contínua, pois
organiza-se assim como um poder múltiplo, automático e anônimo; pois, se é verdade que a vigilância repousa sobre indivíduos, seu funcionamento é de uma rede de relações de alto a baixo, mas também até um certo ponto de baixo para cima e lateralmente; essa rede “sustenta” o conjunto, e o perpassa de efeitos de poder que se apoiam uns sobre os outros: fiscais perpetuamente fiscalizados (MICHEL FOUCAULT, 1978, p. 201).
Internalizar esse saber, enxergá-lo minimamente na vida cotidiana é admitir o surgimento de uma nova ética. Por derradeiro, estaria mitigando-se conceitos fundamentais de privacidade e liberdade pré-estabelecidos em troca de um bem maior, que poderia ser extensivamente definido como melhorias de paz, segurança social, avanço tecnológico, um desenvolvimento econômico ou científico brilhante, por exemplo.
Cumpre ainda ressaltar que o processo de inserção em um estado social de vigilância é inevitável. Como sabiamente preceitua o historiador Yuval Noah Harari, os algoritmos poderão saber exatamente quem você é:
O que já está começando a acontecer na medicina provavelmente ocorrerá em outros campos. A invenção decisiva e a do sensor biométrico, que as pessoas podem usar nos seus corpos ou dentro deles, e que converte processos biológicos em informação eletrônica que computadores podem armazenar e analisar. Se tiverem dados biométricos e capacidade computacional suficientes, sistemas de processamento de dados externos poderão intervir em todos os seus desejos, todas as suas decisões e opiniões. [...] Mesmo se você for, e continuar a se esconder de si mesmo e de seus colegas de turma, não conseguirá se esconder da Amazon, do Alibaba e da polícia secreta. Quando estiver navegando na internet, assistindo a vídeos no youtube ou lendo mensagens nas suas redes sociais, os algoritmos vão discretamente monitorá-lo, analisá-lo e dizer à Coca-Cola que, se ela quiser lhe vender alguma bebida, melhor seria usar o anúncio com o sujeito sem camisa, e não o da garota sem camisa. Você nem vai saber. Mas eles saberão, e essa informação valerá bilhões. (HARARI, 2018, p. 76-77).
Inicialmente tais assertivas podem demonstrar-se assombrosas, pois causam impacto cognitivo grande na vivência comum do cidadão moderno. Todavia, é o próprio titular de dados que retroalimenta esse faminto sistema invisível. Novamente pontua brilhantemente o professor israelense:
[...] Talvez tudo isso se faça abertamente, e as pessoas compartilharão com prazer suas informações para poder contar com as melhores recomendações, e para poder fazer o algoritmo tomar decisões por elas. Começa com coisas simples, como decidir a que filme assistir. [...] No entanto, esses problemas podem ser resolvidos se deixarmos que o algoritmo recolha de nós dados em tempo real, enquanto estamos efetivamente assistindo aos filmes, em vez de se basear em nossos próprios e duvidosos relatos pessoais. Para os iniciantes, o algoritmo pode monitorar quais filmes vimos até o fim, e quais deixamos de assistir no meio. Mesmo se dissermos ao mundo inteiro que… “E o vento levou” é o melhor filme já produzido, o algoritmo saberá que nunca fomos além da primeira meia hora. [...] Porém o algoritmo pode ir muito mais fundo que isso. Engenheiros estão desenvolvendo um software que detecta emoções humanas com base nos movimentos dos olhos e dos músculos faciais. Acrescente uma boa câmera ao aparelho de televisão, e esse software saberá quais cenas nos fizeram rir, quais cenas nos deixaram tristes e quais cenas nos entediaram. Em seguida, conecte o algoritmo a sensores biométricos, e ele saberá como cada fotograma influenciou nosso ritmo cardíaco, nossa pressão sanguínea e nossa atividade cerebral (HARARI, 2018, p. 78).
Isso tudo redunda no fato de que o titular de dados acaba recaindo em uma sociedade de puro controle vigilante, arregimentada na captação e monitoramento constantes de dados pessoais.
O termo Sociedade de controle (Foucault, 1975 & Deleuze, 1990) tem origem no século XX, mas as transformações sociais que ele discute vêm sendo observadas de forma cada vez mais significativa nos dias atuais, conforme o tecido social se torna mais conectado. Até o final do século XX, a conexão do mundo privilegiava as instituições – governos, empresas de mídia, multinacionais, etc.
A partir dos últimos anos do século XX, e principalmente no início do século XXI, a penetração da internet e das tecnologias digitais no cotidiano do cidadão comum alcançou uma incrível mobilidade e ubiquidade comunicacional e informacional no nível do indivíduo – e não mais apenas no nível das organizações -, catalisando, assim, tanto o controle e a transparência quanto as possibilidades de autoexposição em níveis inéditos na história. Esse processo redefine e transforma a sociedade, o modo como vivemos e nos relacionamos, manifestando, em plenitude, a sociedade de controle.
Até o final do século XX, as sociedades eram caracterizadas pelo enclausuramento no espaço fechado (escolas, hospitais, indústrias, empresas, prisão, etc.) e pela ordenação do tempo de trabalho. Os mecanismos de controle disciplinar favoreciam a constante observação dos indivíduos, que se tornavam transparentes para quem estivesse no poder. O poder estava fora do alcance e do controle dos indivíduos, tornando-se opaco a eles. Esse tipo de sociedade foi analisado e descrito por Michel Foucault (1975) como sociedade disciplinar, que é marcada por uma opacidade do poder e pela transparência dos indivíduos. As sociedades disciplinares se estenderam do século XVIII até a Segunda Grande Guerra, sofrendo, então, declínio até o final do século XX e, simultaneamente, dando lugar à ascensão de outro tipo de sociedade: a do controle.
Apregoa, sabiamente, Martha Gabriel:
No final do século XX, Gilles Deleuze (1990) apresenta aspectos que mostram que estávamos passando de uma sociedade disciplinar para uma sociedade de controle, que surge em função das tecnologias de comunicação e informação em rede, que passam a provocar a dissolução de limites físicos e definidos (redes não têm paredes delimitantes) e transformam o tempo em um continuo que permeia os espaços. Ocorre, dessa forma, uma mudança de natureza do poder, que deixa de ser hierárquico, e passa a ser disperso e difuso numa rede global. Assim, nas sociedades de controle, o poder se torna disseminado e disperso entre os nós das redes, e sua ação torna-se horizontal e impessoal (COSTA, 2004). O poder de controle e a transparência se distribuem na rede. (GABRIEL, 2019, p. 57-58).
As instituições sociais (governos, empresas, instituições de ensino etc.) têm sido sociedades disciplinares por séculos. No entanto, as tecnologias digitais as estão transformando, de forma consciente ou não, em sociedades de controle (de vigilância). Não é à toa que uma das características predominantes da “geração Y” é o não reconhecimento de hierarquia, pois cresceram junto com o nascimento da sociedade de controle, em que a horizontalização do relacionamento é característica marcante (GABRIEL, 2019, p. 59).
Paralelamente ao fenômeno atual de ausência hierárquica pela proliferação de dados, surge a crise de propriedade desses dados. Acerca desse complexo fenômeno, é colocado “em xeque” até o operador do direito do futuro:
Nos dois séculos passados nos tornamos extremamente sofisticados em regular a propriedade da indústria - hoje posso comprar ações e ser dono de um pedaço da General Motors e um pedacinho da Toyota. Mas não temos muita experiência em regular a propriedade de dados, que é inerentemente uma tarefa muito mais difícil, poque, ao contrário da terra e de máquinas, os dados estão em toda parte e em parte alguma ao mesmo tempo, podem movimentar-se à velocidade da luz, e podem ser indefinidamente copiados. [...] Assim, faríamos melhor em invocar juristas, políticos, filósofos e mesmo poetas para que voltem sua atenção para essa charada: como regular a propriedade de dados? Essa talvez seja a questão política mais importante de nossa era. Se não formos capazes de responder a essa pergunta logo, nosso sistema sociopolítico pode entrar em colapso. As pessoas já estão sentindo a chegada do cataclismo. Talvez seja por isso que cidadãos do mundo inteiro estão perdendo a fé na narrativa liberal, que apenas uma década atrás parecia irresistível (HARARI, 2018, p. 110-111).
Delineados os parâmetros do controle social e da vigilância, destaca-se o olhar social-pragmático dessas relações amparadas a posteriori pelo celeuma da Lei Geral de Proteção de Dados. O alicerce de relevância reside por fim, na análise qualitativa da impressão dos usuários acerca da iminente regulação de dados, cujo impacto afeta diretamente o convívio social e as relações tuteladas pelo Direito.
Para tanto, emerge uma imperiosa necessidade reguladora (ao menos pretensiosamente) de blindar o núcleo fundamental de privacidade, sob pena de colapso não apenas do ordenamento jurídico e dos fatos ocorridos em ambiente virtual, mas do próprio embalsamento da sociedade como nos moldes pretéritos.
Também assemelhada à “arquitetura do comportamento”, no pensamento lúdico de que o ser humano molda coisas para posteriormente ser moldado por elas, a vigilância social aproxima-se de um conceito que abarca a construção, a influência e a manipulação das atitudes cotidianas. A humanidade não é simplesmente um meio de aumentar lucros, com base nas informações coletadas sobre as preferências das pessoas, oferecendo-lhes, anúncios que sejam relevantes.
Em verdade, os dados permanentemente coletados e analisados por algoritmos, cujo funcionamento já foi analisado nos capítulos inaugurais, mostram-se de difícil compreensão, permitindo com que a conduta dos titulares seja previsível, dando margem à interferência externa na vida social, e consequentemente, na intimidade da pessoa humana.
Em 2014, por exemplo, a Amazon patenteou um sistema que permite antecipar o que os clientes querem comprar[5], antes mesmo que eles próprios o saibam. Uma das características que bem ilustra o estado de vigilância é a quantidade de informações reunidas sobre cada um dos cidadãos e a análise que delas é feita. Somando-se Alexa (da Amazon), Siri (da Apple) ou Google Assistant, um quarto dos domicílios norte-americanos possui hoje um smart speaker[6] .
A eles podem-se acrescentar outros dispositivos de vigilância como as televisões inteligentes, que não só respondem a comandos de voz, mas registram e armazenam as informações derivadas de conversas no local onde o aparelho se encontra.
Em suma, a vigilância tornou-se a marca característica das sociedades contemporâneas. Não se trata de teorias da conspiração, ou ficções científicas, mas sim de matéria extremamente relevante, dotada de alto impacto: a vigilância se converteu em parte indissociável de nossa sociabilidade, ou seja, dita também a maneira de relacionamento uns com os outros e com as coisas. Isso porque a vigilância social ocupa o escopo econômico das empresas (suas metas), gerando maior valor de mercado, e acentuando maior presença em nossa vida cotidiana, especialmente quando reúnem inovação tecnológica e a dissipam pela sociedade. Embora o Estado não seja mais o seu principal vetor (como propunha Foucault), ainda possui protagonismo em sua proliferação, na medida em que é omisso quanto a certas práticas que continuam ocorrendo.
O que caracteriza o estado de vigilância não é só o sistema de captação de dados em massa. Tão importante quanto a captação desses dados é a capacidade daqueles que os usam de interferir no comportamento alheio, dando margem para que possam conhecer melhor e possam aplicar modelos às atitudes alheias com o objetivo de prever quais atitudes serão adotadas.
Em uma perspectiva mais contemporânea, deduz-se que a sociedade disciplinar foi sobreposta pelo modelo de controle tecnológico. Enquanto na concepção foucaultiana o panóptico vigiava os sujeitos fisicamente, na sociedade de controle a disciplina passou a ser imposta virtualmente.
Segundo ele, nesse novo arquétipo o aspecto disciplinar não desapareceu, mas apenas mudou a atuação das instituições. Os dispositivos de poder que ficavam circunscritos aos espaços fechados das instituições (escola, quartel, prisão) passaram a adquirir total fluidez, o que lhes permitiu atuar em todas as esferas sociais[7].
O poder vigilante, conforme já explicado, tornou-se extraterritorial. Há vigilância irrestrita e contínua de dispositivos, telefones e outros que aumentam demasiadamente o controle dos titulares de dados. Todos podem vigiar e ser vigiados, de modo que espaços públicos passaram a estar sob o constante julgo de uma “sentinela moral”. O poder tornou-se líquido e dinâmico, pouco importando de onde provêm as ordens de controle.
Muito provavelmente em vista disso, no decorrer do século passado, surgiram os primeiros regulamentos normativos que disciplinavam as interferências sociais da tecnologia. De maneira tardia ou não, a regulamentação jurídica foi necessária, especialmente para estratificar parâmetros de legalidade para permitir ou frear a atuação social, incumbência que ensejou a edição do novel diploma brasileiro.
Considerações Finais
É possível concluir que a dinâmica social foi drasticamente alterada pela tecnologia. A Lei, enquanto norma reguladora dos comportamentos sociais, visa reprimir dissídios humanos, e balizar condutas, equalizando a realidade com o objetivo constitucional de preservação dos direitos de primeira geração.
O ambiente virtualizado[8] modifica as estruturas sociais de poder, diluindo o controle do Estado entre os cidadãos, de maneira entrecruzada e constante. Isto é, os olhares atentos da internet repousam de maneira vigilante e recalcitrante sobre todos os usuários, que juntos, exercem – ainda que de maneira não proposital – uma função de controle paralela à do Estado, funcionando como mecanismo distópico de afetação das liberdades alheias.
Por mais denso e indelével que seja o tema, a realidade da vigilância social nos últimos anos é frequentemente debatida em rodas informais, documentários, filmes e nos portais de notícias. O que chama a atenção – juridicamente posicionada – é a afetação dos direitos de primeira geração, notadamente o direito fundamental de privacidade dos indivíduos e seus reflexos nos objetivos centrais da Carta Magna, visto que, uma sociedade que contém um poder de vigilância paralelo está caminhando para um colapso premente, ainda que adstrito tão somente ao Direito.
Referências
“Alexa chama a polícia e babaca que batia na namorada vai em cana”. Disponível em: https://tecnoblog.net/meiobit/368513/eua-amazon-alexa-assistente-virtual-chama-policia-e-ajuda-a-prender-babaca-que-batia-na-namorada/ Acesso em: 15 out. 2020.
“Amazon patenteia sistema de entrega que se antecipa à compra”. Disponível em: https://exame.com/tecnologia/amazon-patenteia-sistema-de-entrega-que-se-antecipa-a-compr/ Acesso em: 25 de Maio de 2021.
BERÇOTT, Tamara. A Era Digital. Disponível em: <http://www.vestibularfatec.com.br/download/prova_ant/redacao_71_1.pdf>. Acesso em: 10. Nov. 2020.
BRASIL. Código Civil. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm Acesso em: 19 out. 2020.
BRASIL. Constituição da República Federativa do Brasil. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicaocompilado.htm. Acesso em: 14 jun. 2020.
BRASIL. Lei nº. 13.709, de 14 de agosto de 2019. Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm Acesso em: 14 jun. 2020.
CASTELLS, Manuel. A sociedade em rede (A era da informação, economia, sociedade e cultura). São Paulo: Paz e Terra, 1999. v. 1.
CATALA, Pierre. Ebauche d’ une théorie juridique de l’information. Informatica e Dirito, ano 9, p. 20, janv./avril 1983.
FOUCAULT, Michel. “Soberania e Disciplina”. In: Microfísica do Poder. Rio de Janeiro: Edições Graal, 1979, p. 182.
FOUCAULT, Michel. “Vigiar e punir: nascimento da prisão”; Terceira parte: Disciplina; tradução de Raquel Ramalhete. Petrópolis, Vozes, 1987. 288p.
FRANÇA Vladimir R.; FRANÇA Catarina Cardoso S. Proteção constitucional da privacidade contra biografia não autorizada no ordenamento jurídico brasileiro. Disponível em: https://www2.senado.leg.br/bdsf/bitstream/handle/id/496883/RIL151.pdf?sequence=1 Acessado em: março de 2017.
FREGADOLLI, Luciana. O direito à intimidade. Cadernos de Direito Constitucional e Ciência Política. São Paulo, ano 5, no 19, p. 196-246, abr./jun. 1997.
GABRIEL, Martha. “Eu, Você e os Robôs: Pequeno Manual do mundo digital – São Paulo: Atlas, 2019.
GUIMARÃES, Saulo Pereira. Amazon patenteia sistema de entrega que se antecipa à compra. Disponível em: https://exame.com/tecnologia/amazon-patenteia-sistema-de-entrega-que-se-antecipa-a-compr/ Acesso em: 29 de maio de 2021.
HARARI, Yuval Noah. “21 lições para o século 21”. Tradução: Paulo Geiger. - 1ª Ed. - São Paulo: Companhia das letras, 2018
HARARI, Yuval Noah. “Homo Deus – Uma breve história do amanhã”. Trad. Geiger Paulo. São Paulo: Cia. Das Letras, 2016.
Informação versus privacidade: quando direitos fundamentais entram em rota de colisão – Autor: Luciano Pires de Morais. Portal Jusbrasil. Disponível em: https://jus.com.br/artigos/59075/informacao-versus-privacidade-quando-direitos-fundamentais-entram-em-rota-de-colisao. Acesso em: 14 jun. 2020.
ORWELL, George. 1984. Tradução: Heloisa Jahn e Alexandre Hubner - 1ª Ed. - São Paulo: Companhia das letras, 2009.
POMBO, Olga. Sociedade de controle. Disponível em: https://www.revistaaskesis.ufscar.br/index.php/askesis/article/view/131 Acesso em 10 de agosto de 2023.
RODOTÀ, Stefano. A Vida na Sociedade de Vigilância. A privacidade hoje. Organização, seleção e apresentação de Maria Celina Bodin de Moraes. Rio de Janeiro: Renovar, 2008.
RODOTÀ, Stefano. Elaboratori elettronici e controllo sociale. Bologna: II Mulino, 1973.
Smart speaker: uso cresce com a pandemia. Disponível em: https://newvoice.ai/2020/03/30/smart-speaker-uso-cresce-com-pandemia/. Acesso em: 25 de Maio de 2021.
[1] The right to be left alone – the most comprehensive of rights and the right most valued by a free people. Olmstead v. U.S. (1928) – Juiz Louis Brandeis
[2] The Editors Of Encyclopaedia Britannica. Algorithm. Acesso em: 02 dez. 2018.
[3] Nuno Miguel da Conceição Fernandes Verdasca (janeiro de 2013). Identificação e Análise de Movimento Humano com Ultrassons (PDF) (Dissertação de mestrado). Consultado em 12 de Março de 2020.
[4] É de se notar que desde os ataques terroristas de 11 de setembro de 2001, várias agências governamentais estão reforçando o caráter de permanência do monitoramento, com quase que integral aceitação da opinião pública. Neste sentido, é de se mencionar o projeto americano Registro de Informação total, coordenado pelo Departamento de Defesa, ainda em fase de pesquisa, batizado pela imprensa de “Grande Irmão”, em alusão ao livro de George Orwell, 1984. Revista Veja, 27 de novembro de 2002, p. 87.
[5] Amazon patenteia sistema de entrega que se antecipa à compra. Disponível em: https://exame.com/tecnologia/amazon-patenteia-sistema-de-entrega-que-se-antecipa-a-compr/ Acesso em: 25 de Maio de 2021.
[6] Smart speaker: uso cresce com a pandemia. Disponível em: https://newvoice.ai/2020/03/30/smart-speaker-uso-cresce-com-pandemia/. Acesso em: 25 de Maio de 2021.
[7] POMBO, Olga. Sociedade de controle. Disponível em: https://www.revistaaskesis.ufscar.br/index.php/askesis/article/view/131 Acesso em 10 de agosto de 2023.
[8] O termo "metaverso" veio do romance de ficção científica "Snow Crash" (1992), de Neal Stephenson. Ele juntou as palavras "meta" (que pode ser traduzida do inglês como "transcendente" ou "mais abrangente") e "universo". No livro, os personagens usam avatares digitais para entrar em um universo online, na maioria das vezes para fugir dos horrores de uma realidade distópica. Outro antecessor importante do metaverso foi Philip Rosedale, o criador do Second Life, jogo virtual em que os usuários podiam criar seus personagens e interagir dentro de um universo totalmente digital. A realidade virtual como conhecemos hoje começou a ganhar forma na década de 1990 na indústria dos games, com o lançamento do Sega VR. Mas a ideia de combinar realidade virtual com redes sociais começou a ganhar força com o anúncio do Facebook. Disponível em: https://epocanegocios.globo.com/Tudo-sobre/noticia/2022/04/o-que-e-metaverso-entenda-origem-do-termo-e-saiba-como-entrar-nesse-universo-virtual.html Acesso em 10 de agosto de 2023.
Bacharel em Direito pela Faculdade CESUSC, Advogado (OAB/SC 62.827), Membro da Comissão de Direito Digital da OAB/SC e Encarregado de Dados (DPO) da AACRIMESC,
Conforme a NBR 6023:2000 da Associacao Brasileira de Normas Técnicas (ABNT), este texto cientifico publicado em periódico eletrônico deve ser citado da seguinte forma: MATHIAS, Luis Felipe da Silva. As liberdades individuais constitucionais e as concepções sociais de vigilância e poder Conteudo Juridico, Brasilia-DF: 08 set 2023, 04:50. Disponivel em: https://conteudojuridico.com.br/consulta/Artigos/62974/as-liberdades-individuais-constitucionais-e-as-concepes-sociais-de-vigilncia-e-poder. Acesso em: 22 nov 2024.
Por: JAQUELINA LEITE DA SILVA MITRE
Por: Elisa Maria Ferreira da Silva
Por: Hannah Sayuri Kamogari Baldan
Por: Arlan Marcos Lima Sousa
Precisa estar logado para fazer comentários.