RESUMO: A presente pesquisa visa apresentar reflexões iniciais sobre como obter uma melhor compreensão acerca do funcionamento dos sistemas de inteligência artificial com vistas à superação de barreiras relacionadas à desconfiança gerada em função da ausência de conhecimento humano sobre como o sistema vem decidindo seu futuro. Cada vez mais, a utilização da inteligência artificial vem sendo decisiva no futuro dos humanos, revelando a necessidade de haver a fluência algorítmica capaz de se obter o melhor resultado de cada interação. Nesse sentido, o problema indagou como a fluência algorítmica pode contribuir como instrumento de reforço da confiança com a aproximação do usuário. A investigação para responder ao problema voltou-se para a importância que a fluência algorítmica adquire no rompimento de barreiras que geram desconfiança e proporcionam melhor adesão à utilização em massa da inteligência artificial. Como achado da pesquisa, observou-se a importância da explicabilidade algorítmica como instrumento de aceleração desse processo de busca pela fluência algorítmica.

Palavras chave: Confiança. Fluência Algorítmica. Inteligência Artificial. Risco.

ABSTRACT: This research aims to present initial reflections on how to obtain a better understanding of the functioning of artificial intelligence systems with a view to overcoming barriers related to the mistrust generated due to the lack of human knowledge about how the system has been deciding its future. Increasingly, the use of artificial intelligence has been decisive in the future of humans, revealing the need for algorithmic fluency capable of obtaining the best result from each interaction. In this sense, the problem asked how algorithmic fluency can contribute as an instrument to reinforce trust with the approach of the user. The investigation to answer the problem turned to the importance that algorithmic fluency acquires in breaking down barriers that generate distrust and provide better adherence to the mass use of artificial intelligence. As a finding of the research, the importance of algorithmic explainability as na instrument to accelerate this process of search for algorithmic fluency was observed.

Keywords: Trust. Algorithmic Fluency. Artificial intelligence. Risk.

1.  INTRODUÇÃO

A realidade social vem se alterando nos últimos anos graças ao avanço tecnológico, em especial da inteligência artificial que cada vez mais ganha espaço na convivência diária com o ser humano. Inúmeras situações referenciais para o futuro dos humanos, atualmente são definidas por análises de sistemas que não permitem uma completa compreensão de como alcançaram referido resultado. Situações assim geram desconfiança e entraves no relacionamento entre humanos e sistemas. Nesse contexto, é necessário que o ser humano adquira conhecimento mínimo sobre o funcionamento dos sistemas, a fim de extrair o melhor de cada interação, a fim de que haja a superação de barreiras relacionadas à confiança e a aproximação da racionalidade esperada. Assim surge a necessidade de estudo sobre a fluência algorítmica como mecanismo capaz de reduzir a assimetria informacional na relação e proporcionar o bem-estar esperado ao humano, exigindo, assim, um olhar científico sobre este novo problema.

Dessa forma, considerando a dificuldade de compreensão sobre o funcionamento dos sistemas e os riscos apresentados aos humanos, o que gera desconfiança e resistência à sua utilização, questiona-se como a fluência algorítmica pode contribuir como instrumento de reforço da confiança com a aproximação do usuário? Tal questionamento demonstra a necessidade de, a partir do problema apresentado, se observar a importância que a fluência algorítmica, entendida como sendo a capacidade do ser humano de compreender o funcionamento e os riscos dos sistemas e, com isso, captar o máximo de utilidade esperada da relação, adquire no rompimento de barreiras que geram desconfiança e proporcionam melhor adesão à utilização em massa da inteligência artificial.

Para melhor compreensão do tema, é importante, neste ponto, estabelecermos um breve conceito de inteligência artificial, como sendo “sistemas que apresentam um comportamento inteligente, analisando o seu ambiente e tomando medidas – com um determinado nível de autonomia – para atingir objetivos específicos” (EUROPA, 2018).

Assim, objetiva-se analisar se a explicabilidade algorítmica pode servir como potencializador desse processo de busca pela fluência algorítmica.

Quanto à metodologia de pesquisa, esta se dará por meio de uma pesquisa qualitativa com abordagem crítica dos dados coletados e de análise descritiva da realidade baseada em livros, artigos e trabalhos acadêmicos, buscados especialmente no Portal de Periódicos da CAPES e no Google Acadêmico.

No primeiro capítulo, será abordado as diversas áreas em que a IA está influenciando a vida - social e privada -, tais como no emprego, na saúde, na relação com o trabalho, no relacionamento interpessoal e, até mesmo, na investigação criminal. Referidas influências estão alterando o comportamento humano, gerando insegurança e medo, com o consequente afastamento da inteligência artificial, o que revela a importância da fluência algorítmica para viabilizar este processo.

No segundo capítulo, se apresentará o conceito de fluência algorítmica, bem como sua importância como instrumento de aproximação dos seres humanos com a inteligência artificial. Esta aproximação poderá se dar com vantagem aos humanos, desde que a fluência seja aprendida e treinada, como um novo padrão de linguagem universal, capaz de propiciar bem-estar e confiança na relação.

Já no terceiro capítulo, com o intuito de tornar viável este processo, será proposto a utilização da explicabilidade algorítmica como instrumento amplificador da fluência algorítmica. Dessa forma, com a redução do aspecto de caixa preta dos sistemas, a atuação dos humanos será aproximada, especialmente para pessoas que não nasceram digitais.

2.  O DOMÍNIO DOS SISTEMAS DE IA: UM CAMINHO SEM VOLTA

A digitalização já é realidade e se constitui em um processo sem retorno. Compreendida como “a aplicação ou aumento do uso de tecnologias digitais por uma organização, indústria ou pais” (EUROPEAN COMMISSION – EC, 2019, p. 15), ela atua proporcionando alterações nos modelos organizacionais com “novas entidades e relacionamentos em todos os aspectos da realidade, como nos negócios, na sociedade ou em crenças e decisões individuais” (KOTARBA, 2018). De forma resumida, portanto, digitalização nada mais é do que “um processo para introduzir o digital em determinado setor da realidade” (CENTRO DE GESTÃO E ESTUDOS ESTRATÉGICOS – CGEE, 2021, p. 20).

Assim, cada vez mais a organização social é moldada em função das tecnologias e, com isso, novos paradigmas são impostos determinando às pessoas e às organizações seu modo de agir. Realinhamentos econômicos globais como o ocasionado com a Nokia que experimentou o topo e a queda no mercado de celulares em menos de dez anos com a alteração do modelo de negócio para plataformas digitais são cada vez mais observados (LEE, 2013). Situações como esta tendem a se repetir com a influência de instrumentos como big data, computação em nuvem, internet das coisas e 5G que alteram as estruturas postas e desafiam empresas, governos e pessoas a se adaptarem às transformações com o objetivo de capturar os benefícios da evolução tecnológica.

Especialmente relevante nesse processo de tomada de espaço pelas novas tecnologias, é a inteligência artificial, que entendida de forma ampla a englobar aprendizado de máquina, redes neurais e aprendizado profundo, adquiriu inserção massiva nas relações sociais e atua num processo de retroalimentação onde ela aprende apenas com a interação, sem que sejam necessárias instruções ou caminhos predeterminados para as respostas que propõe. Nesse sentido, os economistas americanos Erik Brynjolfsson e Andrew McAfee chamam a atenção para esse processo de inserção social da inteligência artificial, a qual silenciosamente ocupa espaços antes dominados pelos humanos:

A tecnologia de uso geral mais importante de nossa era é a inteligência artificial, particularmente o aprendizado de máquina (ML) - ou seja, a capacidade da máquina de continuar melhorando seu desempenho sem que os humanos precisem explicar exatamente como realizar todas as tarefas que ela recebe. Nos últimos anos, o aprendizado de máquina se tornou muito mais eficaz e amplamente disponível. Agora podemos construir sistemas que aprendem a realizar tarefas por conta própria (BRYNJOLFSSON; MCAFEE, 2017, tradução nossa).

Assim, a inteligência artificial vem ocupando inúmeros campos de atuação da vida humana, não se limitando mais às interações on line ou off line, mas alterando seu eixo de desenvolvimento para o modelo onlife (FLORIDI 2018). Desde consumo, saúde, segurança, até mesmo situações das mais comuns como o ensino humano que foi alterado, e viabilizado, pela inteligência artificial (TUNG, 2021), com grande aceleração, especialmente após o surgimento da Pandemia de Covid-19. Outras mudanças nas relações entre a sociedade e o Estado também são afetadas, com influência em eleições e na forma como é exercida a democracia. Empregos e as habilidades necessárias para o trabalho não ficam de fora.

Todas estas mudanças exigem do ser humano que ele adote comportamento volátil (Volatility), atue na incerteza (Uncertainty), se desenvolva em um ambiente complexo (Complexity) e ambíguo (Ambiguity), situações que colocam a máquina em vantagem e com frequência geram ansiedade e desconfiança, afastando o humano do convívio necessário para o próprio desenvolvimento da inteligência artificial (BENNETT; LEMOINE, 2014). Ao gerar receio e desconfiança, o afastamento é inevitável e a inteligência artificial é privada do contato com o humano, tornando seu desenvolvimento retardado. Por outro lado, a inteligência artificial também gera demanda por novos empregos, proporciona melhora na qualidade de vida e bem-estar social. Diagnósticos de doenças são antecipados e remédios personalizados já estão sendo viabilizados (MIT, 2021). Assim, numa espécie de relação sinalagmática o humano e a inteligência artificial convivem, mas sem que haja a completa compreensão de seu funcionamento e nem mesmo o aprofundamento de questões éticas importantes.

Dessa forma, “quando se fala em IA, o grande problema ou grande ameaça que faz com que muitas empresas hesitem em investir é a questão da segurança e o perigo sobre o mau uso dos dados e da própria IA” (CONTIM, 2021). Essa situação revela a importância de aproximar o ser humano da inteligência artificial, num processo de ensino que busca permitir a fluência algorítmica, com a compreensão do seu funcionamento a fim de gerar a confiança necessária para que as interações se deem com o menor número de entraves possíveis. Tendencialmente o trabalho no futuro próximo será lado a lado entre humanos e sistemas informáticos inteligentes, merecendo atenção para que este futuro projetado se desenvolva com o menor volume de traumas aos humanos (WEBB, 2019).

3. A FLUÊNCIA ALGORÍTMICA COMO OBSTÁCULO AO BEM-ESTAR SOCIAL

Esse processo de adaptação à tecnologia é particularmente desafiador para o ser humano, que vê as estruturas pelas quais foi ensinado se alterarem, onde as relações com outros humanos são intermediadas por máquinas e seu futuro é definido por algoritmos. Cada vez mais situações como eleição para crédito (FSB, 2017), a taxa de juros que será paga a qual é definida em função do risco (STATEN, 2014), a seleção para emprego (IRIONDO, 2018) e, até mesmo, se deve ou não ser preso, estão colocando seres humanos e sistemas de inteligência artificial numa relação onde o humano é objeto de análise e julgamento, sem que consiga compreender o caminho operado para a definição que foi dada pelo sistema para seu futuro (ANGWIN et al, 2016). Este tipo de situação gera angústia e afastamento do ser humano. Não à toa a indústria de tecnologia vem estudando e investindo fortemente em economia cognitiva, design gráfico e outros elementos que visam tornar a relação entre humanos e sistemas de inteligência artificial mais amigáveis aos seres humanos.

Por outro lado:

Isso parece não ser suficiente quando o humano se vê frente a uma decisão tomada por um algoritmo de inteligência artificial, sem que seja capaz de compreender como aquele resultado ocorreu. Neste contexto é que se insere a noção de fluência algorítmica, como sendo a capacidade do ser humano de compreensão do funcionamento e dos riscos de sistemas de inteligência artificial. Vale dizer, a fluência algorítmica é justamente a habilidade que o ser humano deve ter para se comunicar com o algoritmo a fim de extrair o máximo de utilidade esperada, a qual deve se dar em razão de seu funcionamento e de acordo com os riscos que impõe ao humano nessa relação (ENGELMANN; SOUZA, 2021).

Dito de outro modo, trata-se da base teórica e prática necessária para compreender uma das principais tecnologias digitais, com a capacidade de adquirir vantagem competitiva em relação à máquina, moldando o futuro ao seu interesse, com vistas a obter o melhor resultado possível de cada interação.

O físico quântico Volker Lang (2021) aborda o tema, ainda que de forma mais ampla por incluir outras tecnologias, chamando-o de “Digital Fluency”, como sendo a capacidade humana de obter respostas que permitirão o desenvolvimento de uma compreensão melhorada sobre a inteligência artificial, a fim de conhecer seu impacto nas diversas searas da vida humana. O pesquisador lançou o livro Digital Fluency: Understanding the Basics of Artificial Intelligence, Blockchain Technology, Quantum Computing, and Their Applications for Digital Transformation, no qual propõe alguns questionamentos a serem enfrentados para a melhora nessa comunicação, tais como:

Mas do que tratam as tecnologias digitais e como funcionam? Como podemos aplicá-los em nosso trabalho e na vida cotidiana? Como podemos usá-los para otimizar as oportunidades existentes e criar novas e valiosas oportunidades? Quais são os casos de uso mais proeminentes de computação quântica, tecnologia de blockchain e inteligência artificial, e quando eles fazem sentido? Quais são as vantagens e desvantagens em comparação com as tecnologias existentes e quais são as limitações e desafios envolvidos em aproveitá-las? A Digital Fluency responde a todas as perguntas mais importantes que você possa ter sobre digitalização e tecnologias digitais (LANG, 2021).

Estes e outros questionamentos são necessários para que o humano altere a relação atual com algoritmos inteligentes que definem o futuro de humanos, com o mínimo, ou nenhum questionamento.

Algumas legislações como o Regulamento Europeu de Proteção de Dados já se preocupam com esta situação e permitem o pedido de revisão humana quando se tratar de tratamento automatizado, consoante expresso no artigo 22 (EUROPA, 2016). De forma parecida, mas com maior poder emprestado à inteligência artificial, é a legislação brasileira que por meio da Lei 13.709/18, estabelece no artigo 20 a possibilidade de revisão de tratamento automatizado de dados (BRASIL, 2018), mas não define se esta revisão deve se dar por um humano ou por outro sistema de inteligência artificial, vale dizer que, sequer proíbe que a revisão seja feita pelo mesmo sistema, o que poderia gerar uma ineficiência absoluta da revisão se os dados iniciais não se alterarem.

No entanto, a despeito dos esforços legislativos, a compreensão sobre o funcionamento dos sistemas deve ser buscada pelo ser humano, pois é ele o afetado inúmeras vezes ao longo do dia, sem que a regulação consiga ser aplicada. Até mesmo para que possa buscar apoio na regulação, deve-se obter fluência mínima com os sistemas. Assim, como o aprendizado de uma nova língua, a fluência algorítmica deve ser estudada, treinada e aprimorada, a fim de tornar possível a comunicação adequada entre humanos e os sistemas.

Dessa forma, a fluência algorítmica visa proporcionar ao humano o conhecimento básico sobre o funcionamento de sistemas de inteligência artificial, para que o protagonismo dos interesses dos humanos seja prevalente proporcionando elevação do bem-estar e com reforço na confiança. Assim, a despeito de já profetizado pelo historiador israelense Yuval Harari (2017), o surgimento até 2050 de uma nova classe social de pessoas consideradas inúteis ante a incapacidade de lidarem de forma competitiva com a inteligência artificial pode ser minimizado (ou quiçá, nem mesmo acontecer), se durante este processo o ser humano buscar as respostas adequadas capazes de proporcionar a extração de eficiência dessa relação. Dessa forma, o problema colocado pelo historiador, de os humanos serem capazes de executar tarefas melhores que os algoritmos, somente pode ser superado com o aprimoramento dos humanos, sendo o primeiro passo a fluência algorítmica.

4. A EXPLICABILIDADE ALGORÍTMICA COMO INSTRUMENTO AMPLIFICADOR DA FLUÊNCIA ALGORÍTMICA

A atuação da inteligência artificial vem sendo incorporada silenciosamente no cotidiano. Desde que Alan Turing (1950) propôs o questionamento se máquinas podem pensar, a evolução dos sistemas ocorreu na direção da criação de sistemas mais complexos e que buscam imitar o funcionamento do cérebro humano. Assim, modelos baseados em redes neurais visam justamente fazer com que a inteligência artificial processe os dados e apresente o resultado, ainda que nunca tenha sido ensinada sobre o caminho que operou. Esta situação gera certa autonomia no funcionamento dos sistemas atuais, tornando o processo de explicação do caminho e do output exarado pelo sistema difícil de ser esclarecido até mesmo para os programadores que o desenvolveram (OLTEANU, 2019). Assim, a atuação humana frente ao sistema se dá em inegável assimetria informacional.

Dessa forma, o acesso à informação adequada sobre o funcionamento do sistema é condição necessária para a aquisição da fluência algorítmica. Neste contexto, a explicabilidade algorítmica exerce papel diferencial como esforço dos desenvolvedores e utilizadores dos sistemas no sentido de proporcionar aos humanos informações adequadas e em linguagem simples de forma a permitir a construção de um ambiente de confiança e sem ruídos. Em outras palavras a explicabilidade algorítmica traduz-se como um arcabouço de ações, desde a concepção do sistema até sua utilização, que torne o funcionamento interno da inteligência artificial compreensível para os humanos com vistas à criação de confiança, sem que se perca o alto nível de desempenho de aprendizagem e precisão da predição (TUREK, 2018).

A explicabilidade algorítmica atua, portanto, como agregador de confiança no sistema, pois “quando os usuários percebem que o algoritmo é mais justo, responsável, transparente e explicável, eles o veem como mais confiável e útil” (SHIN, 2020), o que demonstra a importância da aproximação das decisões algorítmicas com a racionalidade esperada do usuário. Nesse sentido, a explicabilidade, assim como os sistemas de inteligência artificial, deve ser centrada no ser humano, o que “implica que a IA e os algoritmos futuros devem olhar além da justiça e legalidade superficiais ou da precisão superficial e atender às necessidades e requisitos genuínos do usuário” (SHIN, 2021).

Assim sendo, o sistema deve ser pensado para a redução da entropia informacional, proporcionando uma adequada comunicação com o usuário, com informações relevantes e apresentação dos riscos inerentes e específicos a cada interação (SCHNEIDER 2013). É possível observar, portanto, que para que a comunicação seja efetiva, não há um único modelo de explicabilidade, mas deve ser pensada como um conjunto de técnicas e abordagens que tendem a tornar o algoritmo compreensível. Para o alcance da fluência algorítmica, assim, é necessária a efetiva implementação da explicabilidade, tornando o funcionamento dos sistemas compreensível nos moldes da linguagem humana. Em outras palavras, para que a informação seja corretamente absorvida, é necessário que a comunicação seja estabelecida num padrão adequado ao conhecimento do usuário.

Nesse sentido, sobre a diminuição da entropia e o acesso à informação adequada, o professor da Universidade Harvard, Steven Pinker, retrata a relevância da estruturação ordenada de signos para que adquiram sentido aos humanos, dizendo que:

A informação pode ser concebida como uma diminuição da entropia – como o ingrediente que distingue um sistema ordenado, estruturado, do imenso conjunto de sistemas aleatórios e inúteis. Imagine páginas de caracteres aleatórios digitadas por um macaco em uma máquina de escrever, ou um trecho de ruído branco emitido por um rádio entre uma estação e outra, ou uma tela sarapintada de confetes devido a um arquivo corrompido no computador. Cada um desses objetos pode assumir trilhões de formas diferentes, uma mais maçante do que a outra. Mas agora suponha que os dispositivos sejam controlados por um sinal que arranja os caracteres, ondas sonoras ou pixels em um padrão que se correlaciona com alguma coisa do mundo: a Declaração de Independência, os compassos de abertura de ‘Hey Jude’, um gato de óculos escuros. Dizemos que o sinal transmite informação sobre a declaração, a canção ou o gato. A informação contida em um padrão depende do quanto a nossa visão do mundo é minuciosa ou mais geral (PINKER, 2018, p. 35).

Importante lembrar, aqui, que uma grande parte da população mundial não nasceu digital, vale dizer, se vive uma imensa mistura de gerações, onde grande parte dos humanos foi apresentado e ensinado no mundo totalmente analógico, sendo induzido a conviver com a tecnologia com o passar do tempo. Portanto, a explicabilidade assume especial relevância, pois ao se estabelecer comunicação adequada com aqueles que são objeto de análise pelo sistema, estar-se-á por se aproximar da racionalidade esperada com o consequente afastamento da noção de caixa-preta que os sistemas de inteligência artificial comumente apresentam. Igualmente, abordando a problemática da comunicação adequada para viabilizar a fluência algorítmica, os pesquisadores Solon Barocas, Alex Rosenblat, Danah Boyd, Seeta Peña Gangadharan e Corrine Yu que afirmam que:

Há uma lacuna significativa e crescente no entendimento entre aqueles que são e aqueles que não são tecnicamente fluentes, tornando as conversas sobre o que está acontecendo com os dados um desafio. Dito isso, é importante entender que transparência e fluência técnica nem sempre são suficientes. Por exemplo, aqueles que carecem de conhecimento técnico ficam frequentemente frustrados porque não são capazes de fornecer supervisão ou determinar a precisão do que é produzido, enquanto aqueles que constroem esses sistemas percebem que mesmo eles não podem avaliar significativamente o produto de muitos algoritmos (BAROCAS et al, 2014).

Referida lacuna de entendimento deve ser superada por meio da aproximação entre humanos e sistemas, sendo a explicabilidade um elemento essencial nesse processo. Nesse sentido, Dierle Nunes e Ana Luiza Marques referem que “[...] é essencial que se tenha um elevado grau de transparência algorítmica, a fim de possibilitar que os afetados pelo modelo saibam o que determina o resultado alcançado pelo sistema de IA” (NUNES; MARQUES, 2018).

Ainda, sob a perspectiva regulatória, a explicabilidade algorítmica já é reconhecida como um direito, pois decorre da necessidade de se estabelecer uma série de salvaguardas com o objetivo de garantir o processamento transparente dos dados pessoais, incluso aqui, a obrigação de se fornecer informações significativas sobre a lógica envolvida no percurso efetuado pelo sistema para a tomada de decisão (CASEY; FARHANGI; VOGL, 2019). Dessa forma, ao “se espelhar em necessidades e rápidos avanços gerados na sociedade pelas tecnologias convergentes trazidas pela Quarta Revolução Industrial”, o reconhecimento e implementação da explicabilidade algorítmica estará em consonância com a “regulação do amanhã” (CENTRO DE GESTÃO E ESTUDOS ESTRATÉGICOS – CGEE, 2021, p. 66) necessária para a viabilização dos novos direitos ligados à tecnologia.

Assim, sua implementação prática, além de uma imposição regulatória, possui o potencial de tornar o processo de fluência algorítmica mais ágil e próximo da realidade. Nesta perspectiva, a explicabilidade é ferramenta estratégica de empresas, governos e usuários para viabilizar o acesso de grandes massas da população à transição necessária no modelo social que se avizinha, onde sistemas de inteligência artificial e humanos atuam lado a lado, complementando-se e proporcionando melhora de resultados e qualidade de vida.

Deste modo, para que o processo de fluência algorítmica seja acelerado, é fundamental a inserção da explicabilidade algorítmica como padrão no contato do humano com a inteligência artificial, servindo como um instrumento relevante capaz de superar as barreiras da confiança na adoção dos sistemas.

5. CONSIDERAÇÕES FINAIS

A inteligência artificial apresenta um aspecto de ambivalência, pois promete avanços e melhora da qualidade de vida, ao mesmo tempo em que apresenta riscos e seus resultados são de difícil compreensão. Esta perspectiva de cenário produz desconfiança e afastamento dos humanos. Ainda que haja iniciativas regulatórias no sentido de reduzir esse cenário de assimetria informacional entre humanos e máquinas, isto pode não ser suficiente.

Dessa forma, levando-se em conta que os sistemas apresentam riscos aos humanos e seu funcionamento é de difícil compreensão gerando desconfiança e resistência à sua utilização, indagou-se: como a fluência algorítmica pode contribuir como instrumento de reforço da confiança com a aproximação do usuário?

Assim, a partir da metodologia que orientou a pesquisa, observou-se que a fluência algorítmica pode ser um instrumento eficiente para permitir o rompimento de barreiras que geram desconfiança e pode proporcionar melhor adesão à utilização em massa da inteligência artificial. Esta, tende a permitir ao humano uma interação otimizada no sentido de absorção de vantagem na interação com o sistema. Sua incorporação pode ser fundamental no contexto social que se projeta, onde o humano passa a ser apenas mais uma engrenagem da estrutura, com o dever de bem interagir com sistemas de inteligência artificial para o desenvolvimento pessoal.

Dentro desse contexto, se observou que para o alcance da fluência algorítmica é necessário que esta seja buscada pelos humanos, como o aprendizado de uma nova língua, com vistas a extrair o melhor do relacionamento, com a consciência sobre os riscos e os benefícios específicos de cada interação. Constatou-se ainda, que a explicabilidade algorítmica pode ser um importante instrumento de aceleração desse processo, desde que pensada a partir da concepção dos sistemas até sua efetiva implementação, a qual é capaz de reduzir a sensação de desconfiança e aproximar a convivência com o sistema da racionalidade esperada.

7. REFERÊNCIAS

ANGWIN, Julia et al. How We Analyzed the COMPAS Recidivism Algorithm. ProPublica, 2016. Disponível em: https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm. Acesso em: 15 nov. 2021.

BAROCAS, Solon et al. Data & Civil Rights: Technology Primer. Data & Civil Rights Conference, 2014. Disponível em: https://datasociety.net/library/data-civil-rights-technology-primer/. Acesso em: 15 nov. 2021.

BENNETT, Nathan. LEMOINE, James. What VUCA Really Means for You. Harvard Business Review. v. 92, n. 1/2, 2014. Disponível em: https://ssrn.com/abstract=2389563. Acesso em: 02 dez. 2021.

BRASIL. Lei 13.709/2018, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF. 2018.

BRYNJOLFSSON, Erik; MCAFEE, Andrew. What it can – and cannot – do for your organization. The Business of Artificial Intelligence. Harvard Business Review, 2017. Disponível em: https://starlab-alliance.com/wp-content/uploads/2017/09/The-Business-of-Artificial-Intelligence.pdf. Acesso em:  05 dez. 2021.

CASEY, Bryan; FARHANGI, Ashkon; VOGL, Roland. Rethinking Explainable Machines: The GDPR's 'Right to Explanation' Debate and the Rise of Algorithmic Audits in Enterprise. Berkeley Technology Law Journal. v. 34, 2019. Disponível em: https://ssrn.com/abstract=3143325. Acesso em: 05 dez. 2021.

CENTRO DE GESTÃO E ESTUDOS ESTRATÉGICOS – CGEE. Desenvolvimento tecnológico e mercado de trabalho – Digitalização e relação homem-máquina: mudanças e tendências na legislação em nível global. Brasília: Centro de Gestão e Estudos Estratégicos, 2021.

CONTIM, Alex. A influência da inteligência artificial no mercado de trabalho e na formação dos estudantes no século XXI. INFO GEEKIE, 2021. Disponível em: https://www.geekie.com.br/blog/inteligencia-artificial-empregabilidade-educacao. Acesso em: 12 dez. 2021.

ENGELMANN, Wilson; SOUZA, Maique Barbosa de. A nova linguagem global: fluência algorítmica como instrumento capaz proporcionar confiança nos sistemas de inteligência artificial. Revista de Direito e as Novas Tecnologias | vol. 13/2021 | Out - Dez / 2021. DTR\2021\47819. Disponível em: https://www.revistadostribunais.com.br. Acesso em: 18 dez. 2021.

EUROPA. Comunicação da comissão ao parlamento europeu, ao conselho europeu, ao conselho, ao comitê económico e social europeu e ao comité das regiões inteligência artificial para a europa [swd(2018) 137 final]. Comissão Europeia. Bruxelas, 2018. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX%3A52018DC0237. Acesso em: 21 dez. 2021.

EUROPA. Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados). 2016. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX%3A32016R0679&qid=1612211352239. Acesso em: 18 dez. 2021.

EUROPEAN COMMISSION – EC. Directorate-General for Employment, Social Affairs and Inclusion. Report of the high-level expert group on the impact of the digital transformation on EU labour markets. Directorate-General for Communication Networks, Content and Technology Luxembourg: Publications Office of the European Union, 2019. Disponível em: https://op.europa.eu/en/publication-detail/-/publication/d9574c3a-67fb-11e9-9f05-01aa75ed71a1. Acesso em: 11 dez. 2021.

FLORIDI, Luciano. Soft Ethics and the Governance of the Digital. Philosophy & Technology, v. 31, 2018. Disponível em: https://doi.org/10.1007/s13347-018-0303-9. Acesso em: 26.08.2021.

FSB. Artificial intelligence and machine learning in financial services. Market developments and financial stability implications. Financial Stability Board, 2017. Disponível em: https://www.fsb.org/wp-content/uploads/P011117.pdf. Acesso em: 27 dez. 2021.

HARARI, Yuval Noah. The meaning of life in a world without work. The Guardian, 2017. Disponível em: https://www.theguardian.com/technology/2017/may/08/virtual-reality-religion-robots-sapiens-book. Acesso em: 27 dez. 2021.

IRIONDO, Roberto. Amazon Scraps Secret AI Recruiting Engine that Showed Biases Against Women. Medium, 2018. Disponível em: https://www.ml.cmu.edu/news/news-archive/2016-2020/2018/october/amazon-scraps-secret-artificial-intelligence-recruiting-engine-that-showed-biases-against-women.html. Acesso em: 22 dez. 2021.

KOTARBA, Marcin. Digital transformation of business models. Foundations of Management, v. 10, n. 1, p. 123-142, 2018. Disponível em: https://www.researchgate.net/publication/326808621_Digital_Transformation_of_Business_Models. Acesso em: 16 dez. 2021.

LANG, Volker. Digital Fluency: Understanding the Basics of Artificial Intelligence, Blockchain Technology, Quantum Computing, and Their Applications for Digital Transformation. Apress, 2021.

LEE, Dave. Nokia: A ascensão e queda de uma gigante dos celulares. BBC News Brasil, 2013. Disponível em: https://www.bbc.com/portuguese/noticias/2013/09/130904_ascencao_queda_nokia_an. Acesso em: 19 dez. 2021.

MIT. Medicamentos personalizados: quanto custa o bem-estar de um paciente? MIT Technology Review, 2021. Disponível em: https://mittechreview.com.br/medicamentos-personalizados-quanto-custa-o-bem-estar-de-um-paciente/. Acesso em: 22 dez. 2021.

NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. Inteligência Artificial e Direito Processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista dos Tribunais online. Revista de Processo, v. 285, p. 421-447, 2018. Disponível em: https://www.academia.edu/37764508/INTELIG%C3%8ANCIA_ARTIFICIAL_E_DIREITO_PROCESSUAL_VIESES_. Acesso em: 15 dez. 2021.

OLTEANU, Alexandra. How Can We Overcome the Challenge of Biased and Incomplete Data? Knowledge@Wharton. University of Pennsylvania, 2019. Disponível em: https://knowledge.wharton.upenn.edu/article/big-data-ai-bias/. Acesso em: 23 dez. 2021.

PINKER, Steven. O novo Iluminismo: Em defesa da razão, da ciência e do humanismo. Trad. Laura Teixeira Mota e Pedro Maia Soares. Companhia das Letras, 2018.

SCHNEIDER, Thomas D. Information Theory Primer With an Appendix on Logarithms. National Institutes of Health, 2013. Disponível em: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.226.7100&rep=rep1&type=pdf. Acesso em: 07 dez. 2021.

SHIN, Donghee. The effects of explainability and causability on perception, trust, and acceptance: Implications for explainable AI. International Journal of Human – Computer Studies. n. 146, 2021. Disponível em: https://zuscholars.zu.ac.ae/works/3421/. Acesso em: 07 dez. 2021.

_______. User Perceptions of Algorithmic Decisions in the Personalized AI System: Perceptual Evaluation of Fairness, Accountability, Transparency, and Explainability. Journal of Broadcasting & Electronic Media, v. 64, n. 4. 2020. Disponível em: https://doi.org/10.1080/08838151.2020.1843357. Acesso em: 25 nov. 2021.

STATEN, Michael. Risk-Based Pricing in Consumer Lending. Center for Capital Markets Competitiveness, 2014. Disponível em: https://www.centerforcapitalmarkets.com/resource/risk-based-pricing-in-consumer-lending/. Acesso em: 20 dez. 2021.

TUNG, Liam. Microsoft Teams: Now teachers can monitor students' reading fluency with AI. ZedNet, 2021. Disponível em: https://www.zdnet.com/article/microsoft-teams-teachers-get-a-free-ai-tool-to-monitor-students-reading-fluency/. Acesso em: 26.08.2021.

TUREK, Matt. Explainable Artificial Intelligence (XAI). Defense Advanced Research Projects Agency, 2018. Disponível em: https://www.darpa.mil/program/explainable-artificial-intelligence. Acesso em: 07 dez. 2021.

TURING, Alan Mathison. Computing machinery and intelligence. Mind, v. LIX, 1950. Disponível em: https://doi.org/10.1093/mind/LIX.236.433. Acesso em: 28 dez. 2021.

WEBB, Michael. The Impact of Artificial Intelligence on the Labour Market. 2019. Disponível em: https://ssrn.com/abstract=3482150. Acesso em: 27.08.2021.