MARCUS TONETE DE ARAGÃO^[1]

(coautor)

RESUMO: Discute-se como a evolução tecnológica nas últimas décadas, particularmente através dos algoritmos, tem transformado profundamente as dinâmicas sociais, culturais e individuais. Inspirados pelo conceito de governamentalidade de Michel Foucault, os algoritmos emergem como uma nova forma de poder que influencia tanto políticas públicas quanto comportamentos pessoais de forma quase imperceptível, levantando questões sobre liberdade e controle. A tecnologia, enquanto oferece oportunidades para a expressão da individualidade, também apresenta riscos de homogeneização cultural. A personalização em massa, embora prometa singularidade, muitas vezes limita a exposição a novas ideias e reforça bolhas culturais. A discussão se estende para os riscos éticos associados à privacidade, ao consentimento e à transparência no uso de algoritmos, destacando a necessidade de vigilância constante e de debates éticos profundos para garantir uma utilização justa e ética da tecnologia. Por fim, a interação digital é vista tanto como uma ferramenta de conexão quanto de isolamento, onde estratégias de resistência e reconquista da autonomia são essenciais para assegurar que as tecnologias promovam benefícios coletivos.

Palavras-chave: Algoritmocracia. Governamentalidade. Homogeneização cultura. Ética digital. Autonomia pessoal.

ABSTRACT: The discussion explores how technological evolution in recent decades, particularly through algorithms, has profoundly transformed social, cultural, and individual dynamics. Inspired by Michel Foucault's concept of governmentality, algorithms emerge as a new form of power that influences both public policies and personal behaviors in an almost imperceptible way, raising questions about freedom and control. While technology offers opportunities for the expression of individuality, it also presents risks of cultural homogenization. Mass personalization, although promising uniqueness, often limits exposure to new ideas and reinforces cultural bubbles. The discussion extends to the ethical risks associated with privacy, consent, and transparency in the use of algorithms, highlighting the need for constant vigilance and deep ethical debates to ensure fair and ethical use of technology. Finally, digital interaction is seen both as a tool for connection and isolation, where strategies of resistance and reclaiming autonomy are essential to ensure that technologies promote collective benefits.

Key Words: Algorithmocracy. Governmentality. Cultural homogenization. Digital ethics. Personal autonomy.

SUMÁRIO: 1. INTRODUÇÃO. 2. O AVANÇO DA TECNOLOGIA E O HOMEM-MASSA MODERNO. 3. CULTURAL DIGITAL E HOMOGENEIZAÇÃO. 4. DA HOMOGENEIZAÇÃO À AUTONOMIA: UMA POSSIBILIDADE? 5. ALGORITMOS E A GOVERNAMENTALIDADE. 6. IMPACTOS ÉTICOS E SOCIAIS DA ALGORITMOCRACIA. 7. ESTRATÉGIAS DE RESISTÊNCIA E RECONQUISTA DA AUTONOMIA. 8. CONCLUSÃO. 9. REFERÊNCIAS BIBLIOGRÁFICAS.

1. INTRODUÇÃO

A evolução tecnológica nas últimas décadas trouxe transformações significativas na forma de vivência, trabalho e interação na sociedade. Neste contexto, algoritmos e a conectividade têm reformulado profundamente as dinâmicas sociais, culturais e individuais, dando origem a uma nova era digital que permeia todos os aspectos da vida humana. A partir disso, busca-se explorar a amplitude dessas mudanças, analisando como a tecnologia, especialmente por meio de algoritmos, está redefinindo a governança, a autonomia pessoal, a ética social e a própria cultura.

Inspirados pelo conceito de governamentalidade de Michel Foucault, os algoritmos representam uma nova forma de poder que transcende as estruturas governamentais tradicionais. Eles não apenas influenciam as políticas públicas e as práticas corporativas, mas também moldam comportamentos e expectativas em um nível muito pessoal e imperceptível​​. Essa forma de governança digital, que opera sob a superfície e através de vastas redes de dados, levanta questões sobre liberdade e controle, sublinhando a necessidade de uma vigilância constante e de um debate ético profundo sobre sua execução e impactos.

Enquanto a tecnologia oferece oportunidades para uma maior expressão da individualidade e autonomia, ela também apresenta riscos significativos de homogeneização cultural. A personalização em massa, alimentada por algoritmos que aprendem e preveem nossas preferências, pode paradoxalmente limitar a exposição a experiências e ideias novas, reforçando bolhas culturais que isolam indivíduos e grupos​​​​. Isso não apenas dilui a diversidade cultural, mas também empobrece o debate público e a inovação ao favorecer o conformismo sobre a criatividade.

A algoritmocracia levanta preocupações éticas profundas, especialmente em relação à privacidade, ao consentimento e à transparência. Os usuários muitas vezes não estão cientes de como suas informações são utilizadas ou de como os algoritmos influenciam suas vidas, o que pode levar a violações de privacidade e a decisões automatizadas que afetam negativamente indivíduos e comunidades​​. Além disso, a possibilidade de viés algorítmico e discriminação sistêmica requer uma atenção constante e medidas regulatórias rigorosas para garantir que a tecnologia seja utilizada de forma justa e ética.

A interação digital, por meio de plataformas de redes sociais e sistemas de comunicação, tem o potencial tanto de conectar quanto de isolar. Enquanto facilita novas formas de mobilização social e empoderamento comunitário, também expõe os usuários a manipulações e explorações comerciais e políticas. As estratégias de resistência e a reconquista da autonomia se tornam então essenciais para assegurar que as tecnologias sejam utilizadas para promover benefícios coletivos em vez de interesses particulares​​.

A criação de algoritmos transparentes e éticos, juntamente com uma educação digital robusta, são fundamentais para garantir que a tecnologia sirva como uma ponte para a compreensão intercultural e a expressão da singularidade, em vez de um mecanismo de controle e conformidade​​. Portanto, estabelece-se um entendimento claro e abrangente das maneiras complexas e muitas vezes contraditórias pelas quais a tecnologia está remodelando o tecido da sociedade contemporânea. Ao fazê-lo, ele também aponta para a necessidade de uma abordagem equilibrada que reconheça tanto os potenciais benefícios quanto os riscos inerentes à revolução digital em curso.

2. O AVANÇO DA TECNOLOGIA E O HOMEM-MASSA MODERNO

A era digital trouxe consigo uma revolução sem precedentes no que diz respeito à conectividade e à interatividade. Atualmente, estima-se que existam bilhões de dispositivos conectados globalmente, desde smartphones e tablets até eletrodomésticos e veículos inteligentes. Remete-se à Internet das Coisas (IoT) que surgiu com a torradeira controlada pela internet de John Romkey em 1990, mostrando como objetos cotidianos poderiam ser interligados à rede. Em 1991, Mark Weiser expandiu o conceito com a computação ubíqua, vislumbrando dispositivos tão integrados ao nosso dia a dia que se tornariam imperceptíveis. Kevin Ashton, em 1999, introduziu o termo "Internet das Coisas", destacando o papel do RFID na rastreabilidade de produtos. Desde então, a IoT cresceu exponencialmente, influenciando áreas como segurança, saúde e manufatura e fomentando debates sobre privacidade e a necessidade de padrões globais para a interoperabilidade tecnológica (MANCINI, 2018).

Relatórios da Strategy Analytics, apontam para um crescimento similar, estimando 38.6 bilhões de dispositivos até 2025 e 50 bilhões até 2030, destacando que diferentes segmentos, como dispositivos conectados em residências e veículos conectados, continuarão a expandir^[2]. Esta explosão de dispositivos interconectados pode ser considerado um reflexo do que se denomina Internet das Coisas (IoT), que promete tornar inteligentes quase todos os aspectos de nossas vidas cotidianas.

A massificação da conectividade traz consigo profundas implicações sociais. Por um lado, oferece oportunidades sem precedentes para a comunicação e a interação. Por outro, impõe desafios significativos relacionados à privacidade, à segurança e ao impacto no comportamento social. À medida que mais dispositivos coletam e transmitem dados sobre nossas vidas, surgem preocupações legítimas sobre quem controla esses dados e como eles são usados. José Ortega y Gasset, em sua obra seminal A Rebelião das Massas, descreve o homem-massa como o produto típico da sociedade moderna, caracterizado pela sua mediocridade e pela falta de desenvolvimento individual, levando a uma uniformidade que se opõe à excepcionalidade. Este conceito, embora originado no contexto do início do século XX, possui uma notável relevância na era digital atual, onde a massificação se manifesta sob novas formas através do avanço tecnológico. O autor argumentava que o homem-massa era aquele que não exigia nada de si mesmo, mas apenas dos outros e do Estado. Esse tipo de homem vive sem projeto próprio, deixando-se levar pelas exigências da vida moderna e pela cultura de massas, que favorece o conformismo e desencoraja a individualidade. Ele identificava essa massificação como uma ameaça à diversidade cultural e à qualidade da vida social, temendo que as massas indiferenciadas e conformistas subjugassem as minorias criativas e pensantes.

A cultura digital possibilita um nível de personalização em massa nunca antes visto, onde os produtos e serviços podem ser tailorizados^[3] para atender gostos individuais. No entanto, essa personalização muitas vezes se baseia em algoritmos que analisam grandes volumes de dados para prever preferências, resultando em uma paradoxal homogeneização da diversidade cultural. Assim, enquanto os indivíduos podem sentir que suas escolhas são únicas, essas escolhas são frequentemente moldadas por um sistema que busca maximizar a eficiência e a lucratividade, reduzindo a verdadeira expressão da individualidade. O conceito de governamentalidade algorítmica por Antoinette Rouvroy e Thomas Berns, que explora a regulação dos comportamentos e relações sociais através da otimização algorítmica, substituindo normas estatais por análises de grandes volumes de dados, não se baseia em leis, mas em prever e moldar comportamentos futuros, reduzindo incertezas e governando subjetividades de maneira sutil, criando um ambiente onde desvios são minimizados não por coerção, mas por necessidade (ALVES e ANDRADE, 2022).

Nesta feita, explora-se a inserção dos algoritmos e da Inteligência Artificial na vida cotidiana através da Quarta Revolução Industrial. A necessidade de uma reflexão ética profunda sobre a presença dos algoritmos nas mediações da vida humana é deveras relevante, discutindo questões como falibilidade, opacidade, viés, discriminação, autonomia, privacidade e responsabilidade (ROSSETTI e ANGELUCI, 2021). Confrontados com essas dinâmicas, surgem movimentos que buscam resistir à influência homogeneizadora dos algoritmos e promover maior autonomia individual. Esses movimentos exploram formas de usar a tecnologia para reforçar a individualidade e a autenticidade, contrapondo-se à tendência de massificação, destacando a importância de desenvolver uma consciência crítica sobre como se interage com a tecnologia e como ela molda nossas vidas.

A partir disso, Meireles (2021) discute a importância de políticas robustas para mitigar a influência dos algoritmos no capitalismo de vigilância, focando em como essas tecnologias moldam a autonomia individual e as escolhas pessoais. A mitigação através de políticas que garantam mais autonomia envolve aumentar a transparência dos algoritmos e implementar uma governança eficaz sobre seu uso e operação. Esse esforço visa assegurar que os indivíduos possam ter maior controle sobre seus dados pessoais e não sejam submetidos a decisões totalmente automatizadas sem espaço para revisão humana.

A discussão abrange a necessidade de políticas que não só regulem a coleta e uso de dados, mas também promovam a conscientização dos indivíduos sobre como suas informações são utilizadas. Isso inclui o direito de não estar sujeito a decisões baseadas apenas em processamentos automáticos, conforme estabelecido por regulamentações como o Regulamento Geral de Proteção de Dados (GDPR) da União Europeia. Essa legislação é vista como um passo fundamental na direção certa, proporcionando um modelo que poderia ser adaptado e adotado globalmente para proteger melhor os indivíduos contra abusos de poder por parte de corporações tecnológicas e governos (MEIRELES, 2021).

A massificação digital não apenas afeta a diversidade cultural, mas também a própria noção de individualidade. Em um mundo onde as preferências são frequentemente predeterminadas por dados e algoritmos, a capacidade de formar e manter uma identidade autêntica torna-se desafiadora com implicações éticas e morais do uso desses sistemas na internet, que podem reforçar visões polarizadas sem confrontar o usuário com perspectivas divergentes. Essa personalização do conteúdo pode perpetuar ideologias e comportamentos, criando uma forma de memória e identidade que é ao mesmo tempo herdada e compartilhada no presente, influenciando profundamente a estruturação de identidades individuais e grupais no ciberespaço (ROCHA e OLIVEIRA, 2021).

Percebe-se, assim, que o homem-massa moderno pode ter acesso a uma quantidade sem precedentes de informações, mas ao mesmo tempo, pode ser menos capaz de processar essas informações de maneira avaliativa ou de utilizar tal acesso para desenvolver um senso de eu autônomo. Contra esse pano de fundo, emergem desafios significativos para a autenticidade e o desenvolvimento individual. No entanto, também surgem oportunidades para resistir à conformidade algorítmica.

A mesma tecnologia que pode restringir a diversidade também oferece ferramentas para a construção de comunidades mais nichadas e para a expressão de identidades multiculturais. Assim, enquanto a era digital pode promover uma nova forma de homem-massa, também fornece os meios para subverter esse fenômeno. Vale et al (2021) fala em a necessidade de descolonização da inteligência artificial que implica revisar as bases éticas e culturais na concepção de tecnologias, promovendo uma inclusão efetiva de diversas perspectivas e experiências. Argumenta-se que as práticas atuais, orientadas por um paradigma eurocêntrico, excluem o outro e perpetuam injustiças sociais, como demonstrado na discriminação de pacientes afro-americanos em sistemas de saúde baseados em IA. A inclusão de abordagens éticas mais amplas e representativas é sugerida como fundamental para reorientar o desenvolvimento tecnológico para um futuro mais justo e igualitário.

A evolução do "homem-massa" para a sua manifestação digital reflete tanto os perigos quanto as possibilidades da tecnologia moderna. Reconhecer e entender essa transformação é crucial para garantir que a tecnologia sirva para ampliar, e não restringir, a capacidade humana de diversidade, criatividade e autonomia. Enquanto Ortega y Gasset alertava para o perigo das massas não diferenciadas que poderiam sufocar a excelência, hoje existe o desafio de garantir que a interação com a tecnologia fomente uma sociedade que valorize a pluralidade e a individualidade acima da conformidade massificada. A discussão sobre o avanço da tecnologia e o homem-massa moderno remete ao equilíbrio entre os benefícios da conectividade e os riscos da homogeneização cultural.

À medida que se avança para um futuro cada vez mais interconectado, é fundamental que os indivíduos e as sociedades estejam equipados para navegar neste terreno complexo, promovendo práticas que valorizem a diversidade cultural e a autonomia pessoal.

3. CULTURAL DIGITAL E HOMOGENEIZAÇÃO

Na contemporaneidade, a cultura digital tem remodelado as formas de interação e expressão humana de maneiras antes inimagináveis. Com a proliferação de dispositivos conectados e o acesso sem precedentes a informações e conteúdo, emergem novas dinâmicas na esfera cultural. A partir disso, explora-se como essas transformações podem simultaneamente enriquecer e homogeneizar a diversidade cultural, destacando o papel dos algoritmos na personalização em massa e na conformidade cultural.

Cultura digital refere-se ao conjunto de práticas, comportamentos e valores que são mediados por tecnologias digitais. Este termo abrange desde a criação e compartilhamento de conteúdo online até as interações nas redes sociais e as plataformas como a Netflix utilizam a diversidade como uma estratégia discursiva e mercadológica, promovendo produções locais e incorporando a diversidade em suas identidades corporativas para atingir um público global diversificado. Este movimento reflete uma tendência de desafios e oportunidades na globalização, onde a diversidade é tanto um valor mercantil quanto um emblema de identidades desterritorializadas e globalizadas (VENANZONI, 2021). No entanto, a mesma infraestrutura digital que possibilita essa expansão também pode levar à diluição de culturas locais, substituindo particularidades regionais por tendências globais dominantes.

Plataformas como TikTok e Instagram permitem que artistas independentes, comunidades indígenas e grupos minoritários compartilhem suas histórias e tradições com um público global, desafiando narrativas dominantes e promovendo uma maior inclusão cultural. A inclusão digital em comunidades isoladas e indígenas no Brasil teve início com o Comitê para a Democratização da Informática (CDI) com o projeto Rede Povos da Floresta em 2003. Este projeto instalou pontos de acesso à internet em várias comunidades nos estados do Acre, Amapá, Minas Gerais e Rio de Janeiro, e expandiu em 2007 através de acordos com os Ministérios das Comunicações e do Meio Ambiente, impactando mais de 120 mil pessoas (ALDEIA GLOBAL, 2013).

Em 2010, foi criado o Centro de Inclusão Digital Indígena (Cidi), uma ONG que promove a conectividade dos povos indígenas, fornecendo equipamentos de informática e oferecendo cursos básicos de informática e formação de monitores indígenas para as comunidades. O primeiro centro foi inaugurado em 2012 na comunidade Tikuna, em Manaus (ALDEIA GLOBAL, 2013). Ao mesmo tempo, a prevalência de algoritmos de recomendação e a lógica comercial das plataformas digitais podem favorecer conteúdos já deveras conhecidos para estes consumidores em detrimento da diversidade, é o chamado filtro de bolha^[4]. As interfaces modernas têm evoluído de um modelo arquitetônico para um mais personalizado, onde o código binário é projetado para replicar indivíduos com personalidades únicas. (LERAY, s.d.)

A personalização em massa é uma abordagem que utiliza dados coletados de interações digitais para oferecer produtos, serviços ou conteúdos que pareçam personalizados para cada usuário. Esta técnica promete uma experiência única para o indivíduo, mas esconde mecanismos de padronização profundos. Embora a personalização em massa sugira um atendimento às preferências individuais, ela frequentemente canaliza os usuários para experiências e escolhas culturalmente homogêneas. Os algoritmos de recomendação, ao preverem o que um usuário gostaria de ver, ouvir ou comprar com base em dados agregados tendem a criar uma câmara de eco^[5] que reforça tendências já predominantes (KAUFMAN, SANTAELLA, 2020).

Os algoritmos não são apenas ferramentas neutras, eles são projetados com objetivos específicos que muitas vezes servem às prioridades das empresas que os desenvolvem, analisam vastas quantidades de dados pessoais e comportamentais para modelar e prever escolhas, muitas vezes de maneira opaca e sem o conhecimento dos usuários (AMADEU, 2017). O controle exercido por eles sobre a seleção cultural que chega aos usuários limita seriamente a capacidade de escolha autêntica e a formação de uma identidade individualizada. Isso é particularmente preocupante em contextos onde os usuários não estão cientes de como suas informações são utilizadas ou como seus comportamentos são direcionados (PELLIZZARI e JUNIOR, 2019).

Percebe-se que a repetição de conteúdos similares pode reforçar uma identidade cultural monolítica, onde a diversidade de pensamentos e estilos de vida é comprimida, um fenômeno que vai muito além de uma simples homogeneização superficial. A música Another Brick in the Wall do Pink Floyd critica essa padronização e serve como um grito de guerra contra um sistema educacional que esmaga a singularidade e a inovação sob o peso de uma conformidade opressora. Essa problemática ecoa nos corredores das instituições, onde a educação muitas vezes se reduz a um processo de fabricação em massa de mentes que pensam igual.

All in all, you're just another brick in the wall torna-se uma metáfora poderosa para o indivíduo cuja identidade é diluída até se tornar apenas mais uma peça indistinta na construção de uma sociedade homogênea. Neste contexto, a música desafia o ouvinte a refletir sobre o papel da educação como uma ferramenta de libertação versus opressão. A necessidade de um sistema que valorize o pensamento criativo e a individualidade nunca foi tão premente. Em uma era de informações rápidas e frequentemente não filtradas, a capacidade de pensar de forma independente é crucial. Instituições que promovem a padronização em detrimento da inovação estão preparando os jovens para um mundo que já não existe mais, um mundo onde a conformidade era mais valorizada do que a capacidade de adaptação e inovação.

À frente de todos esses desafios, é imperativo que desenvolvedores de tecnologia, reguladores e usuários trabalhem juntos para garantir que as plataformas digitais não apenas perpetuem, mas também enriqueçam a diversidade cultural. É necessário construir algoritmos mais transparentes e éticos que reconheçam e promovam a pluralidade cultural, e não apenas os interesses comerciais das plataformas. Ademais, os usuários devem ser educados sobre como suas interações digitais são usadas para moldar as experiências que lhes são oferecidas. Uma maior conscientização pode empoderar os indivíduos a buscar ativamente conteúdos fora de suas bolhas algorítmicas, explorando novas formas culturais e perspectivas.

A longo prazo, pode-se aspirar a uma cultura digital verdadeiramente enriquecedora, onde a tecnologia sirva como uma ponte para a compreensão intercultural e a expressão da individualidade (BRITO e COSTA, 2020). No entanto, isso exigirá uma mudança significativa na forma de concepção e interação com as tecnologias digitais. Como a música citada sugere, resistir à conformidade e buscar autenticidade nas escolhas culturais é crucial para evitar ser mais um tijolo no muro da homogeneização digital.

Para que a promessa de uma cultura digital verdadeiramente rica e diversificada seja realizada, é essencial uma vigilância constante e uma participação ativa de todas as partes envolvidas. A sociedade deve aspirar a criação e manter espaços digitais que sejam reflexos autênticos da vasta diversidade cultural humana, e não apenas ecos homogeneizados de preferências majoritárias. A chave para uma cultura digital mais equitativa e inclusiva está na conscientização e na colaboração. Somente através de um esforço conjunto pode-se garantir que a tecnologia sirva como uma ferramenta para enriquecer, e não empobrecer, a tapeçaria cultural da humanidade.

4. DA HOMOGENEIZAÇÃO À AUTONOMIA: UMA POSSIBILIDADE?

Em contraste com as aplicações de controle, a tecnologia também oferece oportunidades sem precedentes para a autonomia individual. Algoritmos, quando projetados e implementados com essa finalidade, podem empoderar as pessoas, permitindo uma maior liberdade através da construção de redes baseadas em interesses e valores compartilhados. Essas redes digitais facilitam formas intensas de comunidades, eficazes em mobilização social. Indivíduos utilizam ferramentas como fóruns, comunidades virtuais e hashtags^[6] para criar comunidades online, experimentando novas sociabilidades baseadas em interesses comuns. Essa interconectividade permite o surgimento de movimentos sociais organizados em rede, que utilizam plataformas digitais como elementos centrais na mobilização coletiva (RODEMBUSCH e AUGSTEN, 2017).

Plataformas de aprendizado online são exemplos de como a tecnologia pode ser usada para aumentar a autonomia pessoal. Algoritmos que personalizam o conteúdo educacional de acordo com o ritmo e o estilo de aprendizagem do aluno permitem que cada indivíduo controle sua educação, escolhendo o que, como e quando aprender. O uso de Tecnologias de Informação e Comunicação (TIC) é essencial, pois permite a utilização de diversas linguagens—oral, escrita, digital e audiovisual—que são parte integrante dos meios de comunicação modernos. Os desafios incluem enfrentar o analfabetismo funcional e utilizar as TIC para melhorar a compreensão e o engajamento com textos em diferentes formatos (AURELIANO e QUEIROZ, 2023).

Outro exemplo é o uso de algoritmos em tecnologias assistivas para pessoas com deficiência. Softwares que utilizam inteligência artificial para converter texto em fala ou para controlar dispositivos através de comandos cerebrais são apenas alguns dos avanços que melhoram a autonomia e a qualidade de vida para esses usuários. Tem-se o uso de aplicativos em smartphones para detectar a chegada de ônibus para pessoas cegas. O aplicativo em questão opera em dois estágios principais para auxiliar usuários em rotas de transporte: no estágio Inicial, o aplicativo inicia convertendo informações vocais em texto sobre a rota desejada. Em seguida, ativa a comunicação e faz o aplicativo validar o sinal e extrai dados como itinerário e aceleração para calcular a distância; no estágio final, após o cálculo da distância do ônibus, com base nos dados gerados pelo sistema algorítmico, o aplicativo informa ao usuário se o ônibus está chegando (distância superior a 12 metros e em movimento) ou se já chegou (distância inferior a 12 metros e parado) (ANDRADE, et al., s.d.).

A inteligência artificial tem impactos positivos significativos na criatividade, atuando como um catalisador que estimula novas ideias. As IAs, ao analisarem padrões e oferecerem insights, ajudam criadores a explorar novas possibilidades. Além disso, aumenta a produtividade ao automatizar tarefas repetitivas, permitindo que os criativos se concentrem em atividades mais significativas. Empresas que incorporam IA em seus processos não apenas melhoram a eficiência e a experiência do cliente, mas também ganham vantagens competitivas ao reduzir custos e erros, potencializando a geração de novos conhecimentos^[7].

Plataformas de streaming usam algoritmos para recomendar conteúdo culturalmente diversificado de várias maneiras, contribuindo para uma maior apreciação cultural entre os usuários. Por exemplo, a utilização de algoritmos de recomendação não se limita apenas a sugerir conteúdos populares, mas também inclui métodos que promovem a descoberta de músicas e filmes de culturas ou gêneros menos representados.Um dos métodos mencionados envolve a curadoria humana juntamente com as recomendações algorítmicas, como visto em plataformas como HBO Max e Hulu, que combinam seleções curadas por humanos com algoritmos para personalizar as recomendações de conteúdo, equilibrando a experiência pessoal com a exposição a novos gêneros e culturas^[8]

Um dos principais problemas é a natureza "caixa-preta" de muitos sistemas de inteligência artificial (AI), que operam sem transparência suficiente sobre como as decisões são tomadas. Isso dificulta a compreensão dos usuários sobre os processos decisórios e compromete a confiança no sistema^[9]. Além disso, os vieses podem não apenas surgir a partir dos dados de treinamento, mas também das equipes de desenvolvimento que podem não ser suficientemente diversas para antever como diferentes grupos serão impactados pelos algoritmos^[10]​.

Devido a isso, percebe-se que os algoritmos possuem um poder imenso tanto para moldar quanto para enriquecer a experiência humana. Quando projetados com a intenção de promover a diversidade e a expressão individual, eles podem ajudar a criar uma sociedade mais inclusiva e criativa. O desafio é garantir que esses algoritmos sejam justos, transparentes e acessíveis a todos. Por um lado, eles surgem como poderosas ferramentas de controle, capazes de monitorar, influenciar e até determinar comportamentos sociais e individuais. Por outro, se adequadamente projetados e empregados, podem ser veículos de autonomia e expressão individual, potencializando a diversidade e a criatividade humana.

A algoritmocracia, ou o governo dos algoritmos, apresenta uma realidade em que nossas vidas são cada vez mais dependentes de sistemas automatizados que tomam decisões em uma fração de segundo. Essa dependência gera preocupações legítimas sobre privacidade, liberdade e equidade. No entanto, também oferece oportunidades sem precedentes para personalização e eficiência em serviços e interações sociais. Olhando para o futuro, a chave para uma sociedade em que a tecnologia apoia a autonomia sem impor controle indevido residirá no compromisso com a transparência, a responsabilidade e a ética no desenvolvimento tecnológico. Educação sobre como os algoritmos funcionam e o impacto que têm sobre as vidas é crucial para que cidadãos possam tomar decisões informadas e exigir sistemas mais justos e equitativos.

Em suma, enquanto os algoritmos continuam a moldar o mundo de maneiras complexas e às vezes contraditórias, o desafio será assegurar que eles sirvam como instrumentos de empoderamento e não como mecanismos de opressão. Isso requer uma vigilância constante e uma disposição para ajustar ou reverter práticas quando necessário para proteger e promover a dignidade humana.

5. ALGORITMOS E A GOVERNAMENTALIDADE

A governamentalidade, conceito introduzido por Michel Foucault, refere-se a uma forma de poder que não se limita apenas às instituições governamentais, mas se estende à gestão e organização populacional através de diversas técnicas e procedimentos, tendo sido cada vez mais mediada por tecnologias digitais, especialmente algoritmos. A partir disso, explora-se como estes sistemas, fundamentados na previsão e modelagem de comportamentos, contribuem para uma nova forma de governo dentro do contexto algorítmico.

Utilizando o framework teórico de Foucault o assunto pode ser interpretado como a gestão comportamental de uma população através do uso de algoritmos. Isso implica em uma série de técnicas que permitem o monitoramento, a análise e a influência sobre grandes grupos, orientando comportamentos de forma quase imperceptível. Discute-se um regime de poder que opera através de mineração de dados e criação de perfis para influenciar comportamentos no nível infra e supra-individual. Usando o sistema de recomendação da Netflix como exemplo, explora-se como esses algoritmos moldam experiências e atitudes, limitando a exposição ao imprevisto e potencialmente transformador. Sublinha-se a importância de reconsiderar a relação com essas tecnologias para permitir espaços de liberdade e experiências autênticas. (WALTER e HENNIGER, 2021).

Os algoritmos são essencialmente preditivos. Eles analisam grandes volumes de dados para identificar padrões e fazer projeções sobre o futuro comportamento das pessoas. Exemplos claros são os algoritmos utilizados por redes sociais que analisam as interações dos usuários para prever e sugerir conteúdos que maximizem o engajamento. Destacam-se os riscos dessas tecnologias para os direitos individuais e a liberdade, sublinhando a necessidade de regulações que protejam a integridade e a diversidade de opiniões na sociedade digital (SIQUEIRA e VIEIRA, 2022).

Foucault argumentava que o poder não é apenas repressivo, mas também produtivo. Os algoritmos, ao preverem e incentivarem certos tipos de comportamentos, não apenas limitam as ações das pessoas, mas também criam novas formas de agir e interagir. Nesse sentido, os algoritmos operam como técnicas de poder que estruturam o campo do possível para a ação individual e coletiva. Foucault argumenta que o poder é uma rede complexa de relações que não se limita às instituições estatais, mas permeia toda a sociedade, influenciando e moldando comportamentos por meio de práticas disciplinares que afetam os indivíduos nos mais diversos contextos sociais (ALEIKSEIVZ, 2020).

Além disso, complementa-se essa visão ao se descrever o poder como algo que emerge nas práticas discursivas e sociais, estruturando o que é aceito como verdadeiro e correto dentro de uma sociedade. Ratifica-se que este poder é exercido não somente através de coação, mas também por meio da criação de normas e conhecimentos que moldam a ação individual e coletiva (FERREIRINHA e RAITZ, 2010). Através destes exemplos, ilustra-se como os algoritmos, ao predizer e incentivar certos comportamentos, podem ser vistos como uma extensão moderna dessa teoria do poder, aplicando a lógica de Foucault ao mundo digital.

Um exemplo de gestão algorítmica pode ser visto através das cidades inteligentes, que representam uma nova estratégia de governança através de algoritmos. Inspirado pelos projetos urbanos históricos, explora-se como essas cidades utilizam tecnologias integradas para otimizar serviços e infraestrutura, visando maior eficiência e bem-estar. Essas cidades combinam medidas regulatórias antigas com novas capacidades de coleta e análise de dados em tempo real, refletindo uma evolução das estratégias de poder e controle social, exemplificadas por intervenções em segurança pública e outros serviços urbanos essenciais (ALVES, 2019).

Esta espécie de governo não está isenta de críticas. A principal delas diz respeito à opacidade dos algoritmos e à falta de transparência em seus processos decisórios. Além disso, a possibilidade de vieses nos dados que alimentam os algoritmos pode levar a discriminações inadvertidas, perpetuando desigualdades sociais existentes, reforçando esses preconceitos, seja em recrutamento de emprego, concessão de crédito, ou outras áreas importantes da sociedade (ROSSETTI e ANGELUCI, 2021).

Conforme abordado, esta gestão algorítmica emerge como uma evolução das tradicionais formas de governança, incorporando as avançadas tecnologias digitais para moldar e gerir comportamentos sociais em uma escala sem precedentes. Esse fenômeno reflete a teoria de Foucault, influenciando diretamente as ações individuais e coletivas através de práticas sofisticadas e muitas vezes imperceptíveis. No entanto, apesar dos benefícios potenciais como aumento da eficiência e do bem-estar em ambientes urbanos inteligentes, não se pode ignorar as significativas preocupações éticas que acompanham essa transformação.

A opacidade e a falta de transparência dos algoritmos, junto aos riscos de perpetuar desigualdades através de vieses nos dados, são desafios que precisam ser endereçados para evitar consequências discriminatórias e assegurar uma aplicação justa dessa nova forma de poder. Portanto, enquanto a governamentalidade algorítmica redefine as estruturas de poder dentro da sociedade, impõe-se a necessidade de uma vigilância constante e de regulamentações rigorosas para proteger os direitos fundamentais e promover uma sociedade mais equitativa. Essa reflexão é essencial para mediar a relação entre tecnologia e poder, garantindo que a integração de algoritmos nas práticas de governança contribua positivamente para a evolução social sem comprometer os valores éticos fundamentais.

6. IMPACTOS ÉTICOS E SOCIAIS DA ALGORITMOCRACIA

Os desafios éticos da algoritmocracia incluem questões de transparência e consentimento. Muitas vezes, os indivíduos não estão cientes de que suas informações estão sendo utilizadas para treinamento e aplicação de algoritmos. Isso levanta questões sobre o direito à privacidade e a autonomia pessoal. Especificamente, discute-se como a autonomia dos algoritmos de aprendizado pode levar a resultados imprevisíveis e como isso dificulta a identificação e correção de problemas éticos associados ao seu projeto e operação. Além disso, há determinado o impacto dessa autonomia e a necessidade de estender a ética a seres semiautônomos, como robôs e algoritmos, considerando a possibilidade e a necessidade de uma pessoa eletrônica que seria responsável pelas ações dos algoritmos (ROSSETTI e ANGELUCI, 2021).

Por outro lado, problemas semelhantes enfatizam a importância da privacidade na era da inteligência artificial e o risco associado à coleta massiva de dados pessoais. A necessidade de mecanismos de consentimento informado e de maior controle dos indivíduos sobre seus próprios dados para proteger sua privacidade é emergente. Além disso, aborda-se a segurança dos sistemas alimentados por IA e o desafio do viés algorítmico, que pode perpetuar preconceitos sociais existentes se não for adequadamente endereçado^[11]​. As empresas de tecnologia estão no epicentro da criação e implementação de algoritmos. Como tal, possuem uma responsabilidade significativa em garantir que seus produtos sejam justos e não discriminatórios.

Este processo não apenas melhora a equidade dos produtos tecnológicos, mas também enriquece a inovação, uma vez que soluções criadas a partir de várias visões de mundo tendem a ser mais completas e eficazes. Portanto, o desenvolvimento inclusivo é crucial não apenas para a ética empresarial, mas também para a eficiência e eficácia dos produtos tecnológicos no mercado global. A importância do desenvolvimento inclusivo nos processos de inovação e pesquisa mostra como a inclusão de perspectivas de gênero pode enriquecer a qualidade e o impacto social das inovações. Este enfoque não apenas melhora a equidade dos produtos tecnológicos, mas também potencializa a inovação, ao incorporar uma diversidade de experiências e necessidades, o que resulta em soluções mais eficazes e abrangentes^[12].

Os governos desempenham um papel essencial na regulamentação do uso de algoritmos, com o objetivo de proteger os direitos dos cidadãos e promover uma sociedade mais equitativa. É fundamental que criem legislação específica para o uso de dados e algoritmos, assegurando proteção contra discriminação e violações de privacidade. Além disso, é importante a formação de órgãos regulatórios que tenham como função monitorar e avaliar o emprego das tecnologias algorítmicas. Essas medidas são cruciais para garantir que o avanço tecnológico ocorra de maneira responsável e segura, que garantam a supervisão humana e o respeito aos direitos dos cidadãos, especialmente no que diz respeito à transparência e ética no uso dos dados pessoais​ (ALCASSA e PAPPERT, 2023).

Deste modo, exploram-se os desafios éticos e sociais decorrentes do avanço da digitalização e da inteligência artificial. As discussões giram em torno dos problemas como fake news e discriminação, mas também apresenta as possibilidades de impactos positivos. Enfatiza-se a importância de incentivar pesquisas que possam fundamentar políticas públicas informadas, visando mitigar riscos e maximizar os benefícios da tecnologia na sociedade (ALMEIDA,  2018).

A regulação efetiva de algoritmos enfrenta vários desafios, incluindo a rapidez com que a tecnologia evolui e a complexidade técnica dos sistemas algorítmicos. Além disso, há um equilíbrio delicado entre regulamentar para proteger os cidadãos e evitar a estagnação da inovação tecnológica. Exploram-se os complexos desafios que envolvem a regulação efetiva de algoritmos, destacando a dificuldade em criar marcos regulatórios que protejam os cidadãos sem comprometer a inovação tecnológica. O equilíbrio entre segurança jurídica e o desenvolvimento tecnológico realça que as legislações devem balancear os benefícios da IA com a prevenção de riscos​ (ADAMS, et al., 2024).

A algoritmocracia desafia as estruturas sociais e éticas tradicionais, colocando novas responsabilidades nas mãos das empresas de tecnologia e dos governos. A regulamentação eficaz e ética dos algoritmos é crucial para assegurar que a tecnologia avance de maneira que beneficie a sociedade como um todo, evitando discriminações e injustiças. É imperativo que todos os stakeholders — empresas, governos, academia e a sociedade civil — colaborem para criar um futuro em que a tecnologia sirva à humanidade, respeitando direitos fundamentais e promovendo a equidade.

7. ESTRATÉGIAS DE RESISTÊNCIA E RECONQUISTA DA AUTONOMIA

À medida que algoritmos passam a influenciar decisões que afetam todos os aspectos de nossas vidas, desde as escolhas de consumo até as sentenças judiciais, torna-se imperativo desenvolver estratégias eficazes de resistência e empoderamento. Então, explora-se como indivíduos e comunidades podem se organizar e agir contra a dominação dessas fórmulas computacionais, e destaca exemplos notáveis de como a tecnologia pode ser usada para fomentar a descentralização e o fortalecimento das capacidades coletivas.

O primeiro passo para resistir dentro deste contexto é a educação. Um entendimento claro de como estes sistemas funcionam, de seus impactos potenciais e das implicações éticas envolvidas é essencial. Programas educacionais que enfatizem a alfabetização digital, ensinando não apenas como usar a tecnologia, mas também como questionar e analisar suas bases e aplicações, são fundamentais. Essa conscientização deve ser acompanhada por uma divulgação ampla sobre os direitos digitais, para que as pessoas saibam como e quando seus dados estão sendo usados, e o que podem fazer para controlar sua própria informação.

Existem vários artigos e projetos que discutem a importância da educação e da alfabetização digital como formas de resistência ao controle dos algorítmos. Por exemplo, a Universidade de Purdue tem um programa focado na alfabetização algorítmica, que enfatiza a necessidade de os estudantes desenvolverem uma compreensão e suas implicações sociais. O programa propõe uma abordagem orientada ao processo, incentivando os alunos a questionar e explorar como as ferramentas de IA podem ser usadas na pesquisa acadêmica, em vez de apenas fornecer respostas ou soluções rápidas^[13].

Além disso, um projeto apoiado pela Cornell University Library, financiado pelo Institute of Museum and Library Sciences, está criando recursos educacionais abertos, proporcionando a capacitação para lidarem com esses mecanismos. Este projeto visa aumentar o conhecimento público sobre o que são essas sequências, como funcionam e como moldam nossa vida cotidiana, destacando a importância do entendimento público e da responsabilidade sobre sistemas algorítmicos potencialmente discriminatórios​ (BEDUYA, 2023). Esses programas destacam a importância de construir uma consciência sobre o uso destes procedimentos computacionais e a necessidade de educar o público sobre seus direitos digitais, permitindo que as pessoas compreendam e controlem melhor suas próprias informações num ambiente digital cada vez mais dominados.

Para combater o uso injusto, a advocacia por transparência é crucial. As auditorias regulares, realizadas por entidades independentes, podem ajudar a identificar e mitigar vieses, garantindo que os esses mecanismos sejam justos e éticos, devendo avaliar a sua eficácia em cumprir os propósitos para os quais foram designados, prevenindo abusos de poder e garantindo que não se perpetuem desigualdades existentes. O desenvolvimento destas auditorias através de terceiros conduzidas por organizações ou indivíduos completamente independentes têm sido particularmente influentes na conscientização pública sobre danos gerados. Investigadores como ProPublica demonstraram que sistemas de pontuação de risco de reincidência analisados apresentavam vieses raciais significativos, influenciando políticas e práticas subsequentes (CHOCK, et al. 2022).

Na Europa, o Digital Services Act (DSA) pela Comissão Europeia representa um passo significativo na regulação dessas questões. O DSA requer auditorias independentes de grandes plataformas online e mecanismos de busca, definindo regras claras para procedimentos, metodologias e modelos de auditoria, promovendo uma maior transparência e responsabilidade​^[14].

A criação de alternativas tecnológicas que sejam inclusivas e democráticas é outra estratégia vital. Plataformas de código aberto e sistemas baseados em blockchain^[15], por exemplo, podem oferecer novas formas de governança e interação social que são descentralizadas e menos suscetíveis ao controle corporativo ou governamental. Estas tecnologias permitem a criação de sistemas de votação, de gerenciamento comunitário e de trocas econômicas que são transparentes e auditáveis por todos os envolvidos, fortalecendo a autonomia das comunidades (LYKIDIS, DROSATOS e RANTOS, 2021).

Adicionalmente, as Organizações Autônomas Descentralizadas (DAOs) é um exemplo claro de como a blockchain pode sustentar modelos de governança não hierárquicos e com componentes quase democráticos. Estas organizações funcionam com base na contribuição voluntária de seus membros e são geridas através de um processo consultivo democrático, onde as decisões são tomadas coletivamente, sem uma autoridade central (ZWITTER e HAZENBERG, 2020). No campo legal, é necessário pressionar por regulamentações que protejam os indivíduos dos abusos algorítmicos. Leis que assegurem a privacidade dos dados pessoais, que estabeleçam limites claros para a coleta e uso desses dados, e que promovam a autodeterminação informativa são essenciais.

Para abordar esta questão regulatória tem-se o Regulamento Geral sobre a Proteção de Dados (GDPR) na União Europeia, que oferece um exemplo robusto de como a lei pode estabelecer direitos específicos relativos à tomada de decisões e promover a transparência e a responsabilidade dos desenvolvedores de sistemas algorítmicos. O GDPR inclui direitos como o de contestar decisões automatizadas, o direito de ser informado sobre a lógica das decisões que afetam os indivíduos, e obrigações significativas para os controladores de dados, como auditorias de terceiros e a nomeação de oficiais de proteção de dados (KAMINSKI, MALGIERI e NOTES, 2020).

Na prática, vários projetos de pesquisa abordam como a tecnologia blockchain pode ser utilizada para fortalecer a autonomia e a descentralização através de projetos de identidade digital e Organizações Autônomas Descentralizadas (DAOs). Por exemplo, a rede Sovrin oferece um sistema de identidade auto-soberana, que permite aos usuários manter controle total sobre suas informações pessoais, usando identificadores descentralizados (DIDs) para estabelecer conexões seguras e autenticadas sem a necessidade de intermediários. Esse sistema promove uma abordagem onde cada parte gerencia suas próprias chaves criptográficas, aumentando a segurança e privacidade das interações online (WINDLEY, 2021).

Além disso, as DAOs representam uma forma inovadora de governança sem uma hierarquia centralizada, utilizando contratos inteligentes para garantir transparência e permitir a participação direta dos membros nas decisões. Esses sistemas são projetados para funcionar com um alto grau de autonomia e são baseados em tecnologia de blockchain, o que facilita a execução transparente e segura das operações​ (WINDLEY, 2021).

A reconquista da autonomia na era digital requer uma abordagem que combine educação, tecnologia, regulamentação legal e mobilização comunitária. Embora os desafios sejam significativos, os exemplos de sucesso mostram que é possível moldar um futuro em que a tecnologia serve como uma ferramenta de empoderamento e não de subjugação. A luta para garantir que as inovações tecnológicas promovam uma sociedade mais justa e equitativa é contínua, e cada passo em direção à transparência, à equidade e ao controle democrático é um passo rumo à liberdade e autonomia verdadeiras.

8. CONCLUSÃO

Observa-se uma narrativa abrangente sobre o avanço tecnológico e seu papel transformador no comportamento individual e coletivo, explorando como a tecnologia, especialmente por meio de algoritmos, reconfigura a governança, a autonomia pessoal e a ética social, e como isso se reflete na cultura e nas práticas sociais contemporâneas.

A tecnologia digital redefiniu o conceito de governamentalidade, ampliando o espectro de influência do poder, não apenas nos governos, mas também nas práticas cotidianas. Esses sistemas modelam comportamentos e expectativas de maneira quase imperceptível, criando um novo paradigma de controle social que Michel Foucault jamais poderia ter previsto. Este controle não está mais restrito a instituições claramente definidas, mas é difuso e operado por entidades tecnológicas que determinam o que é visto, sua interação e até mesmo a percepção do mundo ao nosso redor.

No entanto, há também uma crescente conscientização sobre a necessidade de resistir a essa influência homogeneizadora e de reivindicar a autonomia pessoal. Os indivíduos e comunidades estão cada vez mais equipados com ferramentas digitais que permitem não só questionar os algoritmos, mas também usá-los para fortalecer identidades e comunidades autônomas. A algoritmocracia apresenta desafios que incluem questões de privacidade, transparência e consentimento. A crescente autonomia desses programas levanta preocupações sobre a responsabilidade pelas decisões tomadas sem intervenção humana. Esses desafios não são apenas técnicos, mas profundamente sociais e éticos, exigindo uma revisão contínua das práticas de desenvolvimento de tecnologias.

A cultura digital, impulsionada pela ubiquidade da tecnologia, tem o poder de homogeneizar, diluindo culturas locais e substituindo particularidades regionais por tendências globais dominantes. No entanto, essa mesma infraestrutura também oferece oportunidades sem precedentes para a promoção da diversidade cultural, permitindo que grupos e comunidades minoritárias compartilhem suas histórias e tradições com um público global, desafiando narrativas dominantes e enriquecendo o rol cultural da humanidade.

O conceito de "homem-massa", descrito por Ortega y Gasset, encontra um novo contexto na era digital. A massificação proporcionada pela tecnologia pode levar à perda da individualidade, mas também oferece meios para resistir à conformidade e promover a particularidade. Essa dualidade reflete os desafios e oportunidades apresentados pela moderna paisagem tecnológica, onde a personalização em massa e a inteligência artificial têm o potencial tanto de restringir quanto de expandir a autonomia pessoal e a diversidade cultural.

Olhando para o futuro, é vital que o desenvolvimento de tecnologia, reguladores, e usuários colaborem para garantir que as plataformas digitais promovam a diversidade cultural e a autonomia pessoal, e não apenas sirvam aos interesses comerciais das corporações tecnológicas. A criação de algoritmos mais transparentes e éticos, juntamente com uma maior educação sobre como as interações digitais moldam as experiências individuais, será crucial para alcançar uma cultura digital verdadeiramente enriquecedora. Embora apresente desafios significativos, também oferece oportunidades únicas para promover uma sociedade consciente e mais colaborativa entre todos os envolvidos.

Isso significa prestar atenção especial à acessibilidade das tecnologias, garantindo que ferramentas e recursos não apenas criem mais eficiência, mas também promovam uma igualdade real e tangível entre as pessoas. A ética na tecnologia, portanto, não é apenas uma questão de prevenir danos, mas de promover um bem ativo, garantindo que os benefícios da era digital sejam compartilhados amplamente e justamente.

Nesse contexto, o futuro da sociedade digital dependerá significativamente da capacidade de integrar tecnologia, ética e governança de maneira que respeite tanto os direitos individuais quanto às necessidades coletivas, fomentando um ambiente em que a tecnologia sirva como uma força para o bem comum. A interação consciente com as ferramentas digitais será o alicerce para um futuro em que a tecnologia amplia, e não diminui, a riqueza da experiência humana.

9. REFERÊNCIAS BIBLIOGRÁFICAS

ADAMS, L. I. et al. Desafios para a regulação da inteligência artificial no Brasil. CONJUR. Disponível em: https://www.conjur.com.br/2024-mar-27/desafios-para-a-regulacao-da-inteligencia-artificial-no-brasil/. Acesso em: 27 mar. 2024.

ALCASSA, F. PAPPERT, M. Regulamentação de inteligência artificial e seu destino em 2024. Conjur. 2023. Disponível em: https://www.conjur.com.br/2023-dez-14/regulamentacao-de-inteligencia-artificial-e-seu-destino-em-2024/. Acesso em 25 de abril de 2024.

ALDEIA GLOBAL. Comunidades indígenas usam internet e redes sociais para divulgar sua cultura. Notícias do Brasil. Revista Ciência e Cultura. vol.65 no.2 São Paulo. Abr-Jun. 2013. Disponível em: http://cienciaecultura.bvs.br/scielo.php?script=sci_arttext&pid=S0009-67252013000200006. Acesso em 22 de abril de 2024.

ALEIKSEIVZ, R. A. As reviravoltas de um conceito: a crítica do “poder” em Michel Foucault. Revista de Filosofia. Amargosa/BA. V, 20, n. 3, p. 83-97, out. 2020.

Algorithmic Literacy. Purdue University. [s.d.]. Disponível em: https://www.purdue.edu/innovativelearning/teaching/module/algorithmic-literacy/. Acesso em 26 de abril de 2024.

ALMEIDA, V. A. F. Impactos éticos e sociais da computação. Anais Estendidos Do XVII Simpósio Brasileiro De Fatores Humanos Em Sistemas Computacionais (IHC) 2018. DOI: 10.5753/ihc.2018.4169. Disponível em: https://scite.ai/reports/impactos-eticos-e-sociais-da-y8mKkOr. Acesso em 25 de abril de 2024.

ALVES, M. A. S. Cidade inteligente e governamentalidade algorítmica: liberdade e controle na era da informação. Philósophos - Revista de Filosofia, Goiânia, v. 23, n. 2, 2019. DOI: 10.5216/phi.v23i2.52730. Disponível em: https://revistas.ufg.br/philosophos/article/view/52730. Acesso em: 25 abr. 2024.

ANDRADE, H. G. V. et al. Desenvolvimento de tecnologia assistiva para uso de ônibus por pessoas cegas: da prototipação à capacitação. Niterói. In: ENCONTRO NACIONAL DE COMPUTAÇÃO DOS INSTITUTOS FEDERAIS (ENCOMPIF), 9. , 2022, Anais [...]. Porto Alegre: Sociedade Brasileira de Computação, 2022. p. 37-44. ISSN 2763-8766. DOI: https://doi.org/10.5753/encompif.2022.222781.

AURELIANO, F. E. B. S. QUEIROZ, D. E. As tecnologias digitais como recursos pedagógicos no ensino remoto: implicações na formação continuada e nas práticas docentes. [s.l.]. DOI: https://doi.org/10.1590/SciELOPreprints.3851. Acesso em 22 de abril de 2024.

AXT, G. A volta do “Homem-massa” de José Ortega y Gasset? Estado da Arte. Estadão. [s.l.], 07 fev. 2020. Disponível em: https://estadodaarte.estadao.com.br/a-volta-homem-massa-de-jose-ortega-y-gasset/. Acesso em: 21 de abril de 2024.

BEDUYA, J. Library gets grant to raise algorithmic literacy. Cornell Chronicle. Cornell University. 2023. Disponível em: https://news.cornell.edu/stories/2023/09/library-gets-grant-raise-algorithmic-literacy. Acesso em 26 de abril de 2024.

BRITO, G. S. COSTA, M. L. F. Apresentação - Cultura digital e educação: desafios e possibilidades. Educar em Revista. Curitiba, v. 36, e76482, 2020.

CHOCK, S. C. et al.  Who Audits the Auditors? Recommendations from a field scan of the algorithmic auditing ecosystem. Algorithmic Justice League, USA. 2022. https://doi.org/10.1145/3531146.3533213.

Desafios éticos da IA: privacidade, segurança e viés algorítmico. Techbuzz. [s.d.]. Disponível em: https://techbuzz.com.br/desafios-eticos-da-ia-privacidade-seguranca-e-vies-algoritmico/. Acesso em 25 de abril de 2024.

Digital Services Act: conducting independent audits. Joint Research Centre. European Commission. Disponível em: https://algorithmic-transparency.ec.europa.eu/news/digital-services-act-conducting-independent-audits-2023-05-05_en. Acesso em 26 de abril de 2024.

FERREIRINHA, I. M. N. RAITZ, T. R. As relações de poder em Michel Foucault: reflexões teóricas. Revista de Administração Pública. Rap — Rio de Janeiro 44(2):367-83, MAR./ABR. 2010.

Hashtag: o que significa e como usá-la na sua estratégia de Marketing Digital. Resultados Digitais. 2020. Disponível em: https://www.rdstation.com/blog/marketing/o-que-e-hashtag/. Acesso em 25 de abril de 2024.

HINKLE, D. How streaming services use algorithms. Arts Management e Technology Laboratory. 2021. Disponível em: https://amt-lab.org/blog/2021/8/algorithms-in-streaming-services. Acesso em 22 de abril de 2024.

Impactos da inteligência artificial na criatividade. Rio 2C. O maior encontro de criatividade da América Latina. 2024. Disponível em: https://www.rio2c.com/impactos-da-inteligencia-artificial-na-criatividade/. Acesso em 25 de abril de 2024.

Inovação e gênero: em busca de um mundo inclusivo. Organizadora Vanessa Ribeiro Simon Cavalcanti. Ponta Grossa - PR: Atena, 2021.

KAMINSKE, M. E. MALGIERI, G. Algorithmic impact assessments under the GDPR: producing multi-layered explanations. International Data Privacy Law, Volume 11, Issue 2, April 2021, Pages 125–144, https://doi.org/10.1093/idpl/ipaa020

KAUFMAN, D., & SANTAELLA, L. O papel dos algoritmos de inteligência artificial nas redes sociais. Revista FAMECOS, 27(1), e34074. (2020). https://doi.org/10.15448/1980-3729.2020.1.34074.

LERAY, M. Algoritmos de recomendação e as bolhas sociais. [s.l.]. [s.d.]. Disponível em: https://www.academia.edu/63363057/ALGORITMOS_DE_RECOMENDA%C3%87%C3%83O_E_AS_BOLHAS_SOCIAIS. Acesso em 22 de abril de 2024.

LYKIDIS, L. DROSATOS, G. RANTOS, K. The Use of Blockchain Technology in e-Government Services. Computers 2021, 10, 168. https://doi.org/10.3390/computers10120168.

MANCINI, M. Internet das coisas: história, conceitos, aplicações e desafios. [s.l.]. 2018. ResearchGate. Disponível em: https://www.researchgate.net/publication/326065859_Internet_das_Coisas_Historia_Conceitos_Aplicacoes_e_Desafios. Acesso em 20 de abril de 2024.

MEIRELES, A. V. Algoritmos e autonomia: relações de poder e resistência no capitalismo de vigilância. Opinião Pública, [s.l.], v. 27, n. 1, p. 28-50, 2021. ISSN 1807-0191. DOI: 10.1590/1807-0191202127128. Disponível em: https://www.redalyc.org/journal/329/32967302002/html/. Acesso em: 21 de abril de 2024.

O número de dispositivos conectados alcança 22 bilhões: onde está a receita?. Help Net Security. [s.l.]. 2019. Disponível em: https://www.helpnetsecurity.com/2019/05/23/connected-devices-growth/. Acesso em: 21 de abril de 2024.

PELLIZZARI, B. H. M. JUNIOR, I. F. B. Bolhas sociais e seus efeitos na sociedade da informação: ditatura do algoritmo e entropia na internet. Revista de Direito, Governança e Novas Tecnologias. e-ISSN: 2526-0049. Belém. v. 5. n. 2. p. 57 - 73. Jul-Dez. 2019.

ROCHA, E. S. O, M. A. S. A. Memória e algoritmo: notas sobre a manutenção da identidade e consciência coletiva no ciberespaço. Canoas. Universidade La Salle. http://dx.doi.org/10.18316/dialogo.v0i48.8674. n. 48, 2021.

RODEMBUSCH, R. AUGSTEN, P. Afinal, quem é o protagosnista? O paradoxo do empoderamento do indivíduo no ciberespaço. Rio Grande do Sul. Paradoxo. V. 02, n. 1, jan-jun. 2017.

RODRIGUES, A. C. R.; SILVA, J. A. Autonomia individual em risco? Governamentalidade algorítmica e a constituição do sujeito. Cadernos Metrópole, [s.l.], v. 24, n. 55, p. 255-274, set./dez. 2022. ISSN 1517-2422. Disponível em: https://www.scielo.br/j/cm/a/MhymSLPFzLcpSbWFcYBdpqy/. Acesso em: 21 de abril de 2024.

Roger Waters. Pink Floyd. Another Brick In The Wall. Inglaterra. Harvest Records. 3:10m.

ROSSETTI, R.; ANGELUCI, A. Ética Algorítmica: questões e desafios éticos do avanço tecnológico da sociedade da informação. Galáxia. [s.l.]. v. 46. n. 46. 2021. ISSN 1982-2553. Disponível em: https://doaj.org/article/ca951bee44bf449982e10fe0454a5c44. Acesso em: 21 de abril de 2024.

SILVEIRA, S. A. Governo dos algoritmos. Revista de Políticas Públicas, vol. 21, núm. 1, pp. 267-281, 2017. Disponível em: https://www.redalyc.org/journal/3211/321152454013/html/. Acesso em 22 de abril de 2024.

SIQUEIRA, D. P. VIEIRA, A. E. S. F. Algoritmos preditivos, bolhas sociais e câmaras de eco virtuais na cultura do cancelamento e os riscos aos direitos de personalidade e à liberdade humana. R. Opinião Jurídica. Fortaleza, ano 20, n.35,p.162-188, set./dez. 2022.

Taylorismo: o que é, exemplos e princípios. Revista Ferramental. [s.l.]. 2022. Disponível em: https://www.revistaferramental.com.br/artigo/taylorismo-o-que-e-exemplos-e-principios/. Acesso em: 21 de abril de 2024.

The ethical considerations of artificial intelligence. Capitol Technology University. 2023. Disponível em: https://www.captechu.edu/blog/ethical-considerations-of-artificial-intelligence. Acesso em 23 de abril de 2024.

VENANZONE, T. S. Diversidade em plataformas globais de distribuição audiovisual. Revista Geminis. ISSN: 2179-1465. São Paulo. V. 12, n.1. jan-abr, 2021.

VIANNA, W. B. PINTO, A. L. Deficiência, acessibilidade e tecnologia assistiva em bibliotecas: aspectos bibliométricos relevantes. DOI: http://dx.doi.org/10.1590/1981-5344/2951. [s.l.]. Perspectivas em Ciência da Informação, v.22, n.2, p.125-151, abr./jun. 2017.

WALTER, B. E. P. HENNIGEN, I. Problematizando a governamentalidade algorítmica a partir do sistema de recomendação da netflix. Associação Brasileira de Psicologia Social. Psicologia & Sociedade, vol. 33, e227258, 2021.

WINDLEY, Phillip J. Sovrin: An Identity Metasystem for Self-Sovereign Identity. Frontiers in Blockchain, [s.l.], v. 4, 28 jul. 2021. Disponível em: https://www.frontiersin.org/articles/10.3389/fbloc.2021.626726/full. Acesso em: 26 de abril de 2024.

ZEITTER, A. HAZENBERG, J. Decentralized Network Governance: Blockchain Technology and the Future of Regulation. Frontiers in Blockchain. Volume 3 | Article 12. Março, 2020.