Todo mundo quer falar de IA, mas como regular?

Joana Varon

Vamos chegando ao fim de 2023 com novidades importantes no campo da regulação da Inteligência Artificial, que apontam caminhos do que está por vir em 2024 e dos desafios que vão continuar se impondo, principalmente em países do Sul Global. Esse texto traz uma revisão do que aconteceu no debate regulatório de União Europeia, EUA e China, e como estamos no Brasil, inclusive em relação ao ritmo de andamento do debate legislativo vs implementação de IA no setor público do país.

NAS EUROPAS…

É de onde vêm as notícias de peso mais recentes: na última sexta-feira, dia 8 de dezembro, os países da União Europeia alcançaram um acordo político com o Parlamento Europeu sobre uma Lei de Inteligência Artificial (AI Act). Os debates da regulação vêm desde 2018, com a publicação da Iniciativa da Europeia em IA, e a consulta ao texto específico teve início em 2021. Agora, o que se segue é esboçar tecnicamente os termos do acordo, que ainda precisa ser aprovado formalmente no Parlamento e no Conselho Europeu.

No centro tanto da estratégia como da legislação europeia, está o fomento ao mercado de IA na região, que busca a intensificação da digitalização de todas as áreas da vida, um caminho dado como de não retorno. Nesse sentido, em primeiro lugar estão o mercado e a competitividade, em seguida o debate de riscos, tudo isso em detrimento de uma concepção que partisse de uma análise de fomento e proteção a direitos fundamentais. No comunicado em que anuncia a estratégia de IA, o texto dá destaque aos planos de China e Estados Unidos, e compara os investimentos desses países em contraposição aos da União Europeia, expressando uma preocupação em ficar para trás nessa “corrida”. No esboço do AI Act, também têm destaque as “vantagens competitivas que a IA pode promover para empresas e pela a economia europeia” e a contraposição a isso são riscos no uso da IA, não diretamente uma menção a direitos fundamentais como ponto de partida. O texto mais atual, que ainda deve ser editado após o acordo político, destaca, ao contextualizar a necessidade de sua aprovação, que: a “proposta apresenta uma abordagem regulatória de IA que é horizontal, equilibrada e proporcional, que se limita aos requisitos mínimos necessários para lidar com os riscos e problemas relacionados à IA, sem restringir ou impedir indevidamente o desenvolvimento tecnológico ou aumentar de forma desproporcional o custo de colocar soluções de IA no mercado.” O primeiro objetivo da proposta é “melhorar o funcionamento do mercado interno, estabelecendo uma estrutura jurídica uniforme, em especial para o desenvolvimento, a comercialização e o uso da inteligência artificial, em conformidade com os valores da União.” Na mesma linha, o artigo 1 traz como objeto da lei: “regras harmonizadas para a colocação no mercado, a colocação em serviço e o uso de sistemas de inteligência artificial na União.”

Para fazer isso, de maneira geral, o texto está estruturado basicamente para propor uma aplicação uniforme para a IA na região, trazendo uma definição comum: a proibição de determinadas práticas habilitadas pela IA e classificação de determinados sistemas de IA de acordo com o risco, o que irá acarretar em diferentes níveis de obrigações. O texto parte de uma definição de inteligência artificial bem genérica, que diz considerar “a prova de futuro”: “software desenvolvido com uma ou mais das técnicas e abordagens listadas no Anexo I e que pode, para um determinado conjunto de objetivos definidos por humanos, gerar resultados como conteúdo, previsões, recomendações ou decisões que influenciam os ambientes com os quais interagem;”. Por essa definição, o Anexo I da lei, que lista técnicas de IA, tem sido fonte de controvérsias e disputas. Assim como o Anexo III, que lista sistemas de IA considerados de alto risco. De acordo com o AI Act, diferentes tipos de riscos podem levar ao banimento da comercialização, ou a mais obrigações, inclusive de monitorar a implementação de seus sistemas depois de comercializá-los (post-marketing monitoring).

Interessante notar que o texto foi mais permissivo quando se trata de IA implementada visando cidadãos não-europeus, pois não baniu sistemas considerados de alto risco quando a aplicação é para fins de políticas de migração. Outras exceções ao uso de tecnologias de alto risco também foram previstas para contextos de segurança nacional e aplicação da lei (law enforcement). Por outro lado, de maneira positiva a Europa baniu sistemas de policiamento preditivo, sistemas que categorizam pessoas com base em dados sensíveis (como preferência política e orientação sexual), e sistemas que reconhecem emoções a serem usados em locais de trabalho ou escolas. Mas as exceções mencionadas acima deixam espaço para o uso de sistemas de reconhecimento de emoções em pessoas refugiadas que buscam asilo, bem como reconhecimento facial em tempo real nos espaços públicos, o que a princípio seria proibido, mas passa a ser permitido com a exceção de law enforcement, em caso de busca de uma pessoa suspeita de ter cometido algum crime.

O texto também traz o que considera previsões de fomento à inovação por meio de sandboxes regulatórias para IA nos estados membros. Sandbox é um termo que vem do mercado financeiro e diz respeito a abrir uma brecha regulatória para que empresas testem seus serviços em ambientes controlados, sujeitas a menos restrições. Por fim, no capítulo sobre governança, o texto estabelece um Conselho Europeu de Inteligência Artificial que vai funcionar juntamente com autoridades nacionais competentes para fiscalizar a implementação. Esta lei entrará em vigor 20 dias após sua publicação, o que deve ocorrer no início de 2024.

Como uma lei impulsionada para fomentar o mercado de IA na região, fica a dúvida de como as disposições mais protetivas serão implementadas na prática, e até que ponto as grandes empresas de tecnologia conseguirão contorná-las, para além do que já contornaram. Essa manobra deve ocorrer principalmente com estratégias de lobby para seguir influenciando a lista do anexo III, que enumera sistemas de alto risco, mas também na maneira como prestam contas ao responder às várias obrigações de transparência e avaliação de impacto, já que no setor preponderam práticas de ethics washing. Por fim, uma questão chave, a do impacto ambiental dessas tecnologias, ficou relegada a Códigos de Conduta, ou seja, comprometimentos voluntários das empresas, também cada vez mais famosas por greenwashing.

Ainda assim, quando a Presidente da Comissão Europeia, Ursula von der Leyen, celebrou o acordo, reforçou a vontade de expandir as terminologias da lei europeia para outras jurisdições, almejando o efeito Bruxelas, que no campo das tecnologias já observamos com a General Data Protection Regulation (GDPR), que inspirou nossa lei de proteção de dados (LGPD). Der Leyen declarou: O AI Act da União Européia é a primeira legislação abrangente sobre Inteligência Artificial em todo o mundo. Portanto, este é um momento histórico (…) Nosso AI Act fará uma contribuição substancial para o desenvolvimento de regras e princípios globais para a IA centrada no ser humano.” Em carta aberta acolhendo o acordo a Comissão Europeia declarou: “Para promover regras sobre IA confiável em nível internacional, a União Europeia continuará a trabalhar em fóruns como o G7, a OCDE, o Conselho da Europa, o G20 e a ONU.”

CORRIDA PELA IA

Vale lembrar que as legislações abrangentes de IA se desenvolvem em um contexto de competição e disputa entre empresas de poucos países, principalmente, EUA e China. Nesse sentido, o ano foi marcado por cartas e declarações de líderes da indústria pedindo de maneira hipócrita uma pausa no desenvolvimento das AI, sob o argumento sensacionalista do “risco existencial” para a humanidade. Pausa que nunca iriam, nem eles mesmos, implementar. Mas diante dessas cartas, o que se seguiu foi que esses mesmos líderes da indústria passaram a ser diretamente consultados pela Casa Branca e outros espaços de poder do Norte Global para a confecção de regulação com objetivo de combater esse tal “risco existencial”. Acordos e regulações que, por sua vez, passam a adotar a terminologia da indústria, com termos como “safe”, “secure”, “trustworthy”, “ethical”, “human centered”.

Assim, ficam em segundo plano questões ambientais, laborais, de vieses algorítmicos e de diversidade cultural, bem como os riscos de se desenvolver IAs apenas sob a ótica do monopólio de Big Techs do Norte Global. O lobby dessas empresas, a teoria de um remoto risco existencial, bem como a corrida para fomentar as respectivas indústrias nacionais ou regionais, afasta essas questões estruturais do foco regulatório, como bem ressalta a carta publicada por pesquisadoras da Maioria Global.

NOS EUA…

Depois dos encontros de Biden com líderes da indústria, aprovou-se no final de outubro uma Ordem Executiva sobre Inteligência artificial segura, protegida e confiável, estipulando uma série de recomendações para diferentes agências do governo estadunidense em uma ampla variedade de temas, que vão desde desinformação, à privacidade e cibersegurança. Se essas ordens serão implementadas e/ou servirão de base de regulação, é algo a se observar no decorrer de 2024, particularmente porque as recomendações são bastante extensas e diversas, requerendo bastante ação dos órgãos de governo.

NA CHINA…

Como o plano ‘Next Generation Artificial Intelligence Development Plan’, a China visa a liderança global em IA com a meta em 2030 e, para tanto, está fazendo investimentos massivos. O país vem implementando uma série de regulações desde 2021, sendo as mais importantes: a regulamentação de 2021 sobre algoritmos de recomendação, as regras de 2022 para deep synthesis (conteúdo gerado sinteticamente) e as regras de 2023 sobre IA generativa. Ou seja, o país caminha no sentido de desenhar uma série de regulações de IA que são mais focadas nos tipo de ferramentas. Há quem diga que assim a China prepara sua burocracia para próximos passos regulatórios.

NO BRASIL, RUMO AO G20…

No Brasil, que sediará o G20 em novembro de 2024, o debate por uma lei abrangente que trate de sistemas de Inteligência Artificial também vem de anos. No decorrer de 2023, o Projeto de Lei 2338/2023, de autoria do senador Rodrigo Pacheco (PSD-MG), era nosso foco de debate. O texto tomou como base a proposta resultante dos trabalhos da Comissão de Juristas do Senado Federal (CJSUBIA), instaurada de maneira temporária em 2022 com a missão de estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil. Seu objetivo final era a elaboração de uma minuta de substitutivo que iria instruir a apreciação de projetos de lei anteriores sobre o tema: os Projetos de Lei nº 5.051, de 2019, nº 21, de 2020, e nº 872, de 2021.

Depois de uma série de painéis e uma consulta pública, dos quais a Coding Rights fez parte, a CJSUBIA terminou seus trabalhos em dezembro de 2022, entregando uma minuta que tentava se sustentar em três pilares: garantia de direitos às pessoas afetadas por sistemas de inteligência artificial (Capítulo II); categorização de riscos do sistema (Capítulo III) e a governança dos sistemas de IA (Capítulo IV). A exposição de motivos da minuta, ao contrário do texto europeu, se centra numa terminologia de direitos, ressaltando que tais previsões também fomentam um ambiente de segurança jurídica para inovação e desenvolvimento tecnológico. Como bem destaca: “este substitutivo de projeto de lei parte da premissa de que não há um trade-off — uma escolha mutuamente excludente — entre a proteção de direitos e liberdades fundamentais, da valorização do trabalho e da dignidade da pessoa humana face à ordem econômica e à criação de novas cadeias de valor.” A CLT e as leis de direito do consumidor são mencionadas como outras leis que enfrentam o mesmo tipo de desafio. A minuta também destaca que seu objetivo normativo é “conciliar uma abordagem baseada em riscos com uma modelagem regulatória baseada em direitos.” Há, portanto, também uma abordagem de risco, mas principalmente para dar conta do tipo modelo de responsabilidade civil do fornecedor ou operador do sistema, ou seja, para resguardar a proteção de direitos. Assim, no artigo 1º da minuta temos: “Esta Lei estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial (IA) no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico.” E o artigo segundo também destaca vários direitos fundamentais, além da proteção ao meio ambiente.

Após estabelecer direitos, de maneira semelhante à previsão europeia, a minuta estabelece no capítulo III um sistema de categorização de riscos, onde veda a implementação de sistemas de IA que ofereçam riscos excessivos, e lista sistemas de alto risco, que terão obrigações de avaliação de impacto e práticas de governança distintas, destacando que ambas as listas podem ser atualizadas, de acordo com alguns critérios também determinados no texto, a serem interpretados por autoridade competente, a ser criada pelo Executivo para fiscalizar a implementação da lei. A categoria de risco também afeta o regime de responsabilidade do fornecedor ou operador do sistema. O PL2338/2023 partiu desta minuta sem alterações substanciais, foi apresentado em maio de 2023 e desde então tem sido base de debate.

Contudo, em agosto de 2023, o Senado instaurou outra Comissão Temporária, desta vez a Comissão Temporária sobre Inteligência Artificial (CTIA), presidida pelo senador Carlos Viana (PODEMOS-MG), para examinar em conjunto os Projetos de Lei nº 5.051 e nº 5.691, de 2019; nº 21, de 2020; nº 872, de 2021; e nº 2.338 e nº 3.592, de 2023. O senador Eduardo Gomes (PL-TO) foi designado relator. Desde então, a CTIA conduziu uma série de audiências públicas. No dia 28 de novembro, o vice-presidente da CTIA, senador astronauta Marcos Pontes (PL-SP), apresentou uma emenda de substitutivo bastante controversa que desconsidera o amplo trabalho da comissão de juristas. A proposta suprime todo o capítulo II, referente a como interpretar e aplicar de direitos fundamentais no desenvolvimento de sistemas de IA. Esse capítulo é substituído por vagas previsões sob um título que se alinha com aqueles que defendem teorias vagas de risco existencial futuro, em detrimento de tratar questões presentes: “Dos princípios para a proteção da espécie humana e dos dados pessoais”. O texto também traz um sistema de cálculo de pontuações de risco bastante criticado por ser confuso e inaplicável, além de não tratar de regimes de responsabilidade. A proposta de emenda também prevê a criação de um Conselho Nacional de Inteligência Artificial, cuja composição não prevê participação de sociedade civil. Em suma, o texto suprime várias previsões altamente fundamentadas e justificadas do PL2338/2023, que também se baseou em estudo de legislação comparada, para no lugar dele apresentar um delírio sem fundamento legislativo. Além desta emenda, no dia 12 de dezembro, duas outras foram apresentadas visando o artigo 17 do PL2338/2023, que lista os sistemas que representam alto risco. Uma emenda pede que a autoridade competente não possa atualizar esta lista, o que é um dissenso, tendo em vista o ritmo acelerado das mudanças tecnológicas nesse campo. Outra pede a remoção dos sistemas de “credit scoring” da lista do artigo 17 , temos evidenciado os riscos desse sistema desde 2018. Outra previsão da mesma emenda seria classificar sistemas biométricos como sendo de alto risco apenas se usados pelo poder público para fins de investigação criminal e segurança pública, o que também vem em desacordo com as previsões da Lei Geral de Proteção de Dados que considera dados biométricos como dados sensíveis.

Diante das emendas apresentadas no contexto da CTIA, observamos, portanto, um retrocesso no processo legislativo brasileiro em relação ao que se havia alcançado a duras penas com os trabalhos da CJSUBIA. Ainda assim, o relator do PL 2338, Eduardo Gomes, afirmou que, uma vez aprovada, a legislação ainda terá, provavelmente, um prazo de um ano para entrar em vigor, o que significa que o país continuará sem um marco abrangente de IA até 2025. Enquanto isso, dois fenômenos acontecem em paralelo:

A) A PROFUSÃO DE SISTEMAS DE IA IMPLEMENTADOS NO SETOR PÚBLICO SEM REGULAÇÃO

Em Agosto de 2022, como parte da contribuição da Coding Rights à consulta pública da CJSUBIA, publicamos uma nota técnica que mostrava que 45 entes públicos federais consultados até outubro de 2021 via Lei de Acesso à Informação, 23 declararam fazer uso de sistemas de inteligência artificial para desenvolvimento de seus trabalhos e funções, incluindo a implementação das políticas públicas. Tudo isso sem a existência de um marco legal abrangente.

Na tentativa de atualizar esse levantamento, enviamos uma segunda série de pedidos de LAI para os mesmos órgãos públicos no final de 2022.* O quadro a seguir ilustra cada órgão consultado e a resposta autodeclarada:

Dos 44 entes públicos consultados em pedidos de LAI respondidos no final de 2022, 23 autodeclararam utilizar sistemas de inteligência artificial. A série comparativa não pôde ser continuada em 2023 devido às mudanças ministeriais do novo governo. Entre o período das duas consultas passaram do “Sim” para o “Não”: IBGE e IBAMA. Curiosamente, dois órgãos que foram bastante atacados e desvalorizados na gestão presidencial do período em questão.

O IBGE, em 2021, havia declarado que tinha “3 (três) experimentos em inteligência artificial ainda em caráter de estudos, sem produção e sem interações governamentais”. Eram eles sistemas de:

“1) Reconhecimento de Imagens de Satélite — para uso em pesquisas agropecuárias e em ocupação do solo quanto à moradia;

2) Reconhecimento de Documentos para Contratação — para uso nas contratações censitárias (em torno de 200 mil pessoas sendo contratadas em 1 ou 2 meses), visando facilitar as ações de RH;

3) Uso de Chatbot — para uso de agilização de perguntas e respostas das atividades censitárias e do próprio IBGE, tanto para questões técnicos quanto para as questões administrativas.” (Respostas na íntegra no Anexo II)

Mas em 2022 o órgão declarou que “tal como foi afirmado, tratam-se de projetos experimentais e, portanto, ainda em testes. Diante da magnitude da operação censitária que o IBGE está envolvido neste ano de 2022 e dada a necessidade de intensificarmos os investimentos de recursos humanos no desenvolvimento das aplicações e da infraestrutura de tecnologias de informação e comunicação para o Censo Demográfico 2022, tais projetos experimentais foram temporariamente suspensos e deverão ser reativados a partir de março de 2023.” (Respostas na íntegra no Anexo II)

Já o IBAMA em 2021, havia declarado que “em resposta ao Recurso de 1a Instância n° 9765/2021 a respeito de iniciativas ainda incipientes de Inteligência Artificial e Machine Learning informamos a seguir duas iniciativas:

1) Reconhecimento de Assinaturas nos Autos de Infração na etapa de análise preliminar do processo de conciliação ambiental

Objetivo: Identificar se o auto de infração está com a ciência válida através de técnicas de visão computacional, com a validação da presença das referidas assinaturas no arquivo PDF

2) Triagem de autos de infração aptos a conciliação ambiental

Objetivo: Realizar a triagem e validação de autos de infração para a realização das conciliações ambientais” (Respostas na íntegra no Anexo II)

Mas em 2022 resposta ao nosso pedido via LAI declarou que “o Ibama não faz uso de inteligência artificial, nesse momento.” (Respostas na íntegra no Anexo II)

Passaram do “Não” para o “Sim”: Ministério da Infraestrutura; Ministério da Educação; Ministério da Agricultura, Pecuária e Abastecimento e Ministério do Turismo.

Essa consulta, mesmo que superficial, indica que o uso de algum tipo de inteligência artificial pelo setor público no Brasil, ainda que em estágio piloto, é uma realidade. Mas quase nada se sabe sobre a necessidade real desses sistemas, não existem análises de risco, nem de impacto, ou qualquer dados que comprovem alguma eficiência na sua implementação. Se observarmos as categorias de alto risco hoje apresentadas no artigo 17 do PL2338/2023, o inciso X elenca os sistemas biométricos de identificação, tecnologias que já estão sendo implementadas hoje em dia sem salvaguardas. Por exemplo, no nosso levantamento, o então Ministério de Estado da Mulher, da Família e dos Direitos Humanos declarou em resposta aos nossos pedidos que utiliza software de reconhecimento facial da Microsoft em projeto piloto: “Informamos que a categoria de aplicação da ferramenta é voltada para Reconhecimento de face e Imagens, no qual tem o objetivo de segurança, fácil processo de integração, precisão e automação. Projeto vinculado a ONDH, que trata de pessoas desaparecidas, utilizando estrutura de IA no ramo da Visão Computacional, hospedada e estruturada na plataforma Microsoft Azure. A plataforma FaceID da Microsoft trata-se de estrutura de reconhecimento facial já treinada, sendo utilizada em estrutura de SAAS — Software as a Service. Trata-se de contratação de créditos de serviços em nuvem para projeto piloto. Informamos também que o referido sistema ainda não se encontra em produção. Na solução apresentada, em termos de arquitetura, o sistema possuirá uma base de dados de imagens de pessoas desaparecidas e fará a comparação com a imagem enviada através de aplicativo mobile, em tempo real.” (Respostas na íntegra no Anexo II)

Da mesma forma, a Receita Federal também declarou utilizar o sistema IRIS, sistema de reconhecimento facial para controle de viajantes, mas ainda no PL 2338/2023, além de elencar sistemas biométricos de identificação como de alto risco, também ressalta o risco de sistemas utilizados na gestão da migração e controle de fronteiras. Ou seja, estamos implementando sem controle apropriado sistemas que mesmo no debate legislativo mais aprofundado seriam considerados de alto risco e submetidos a procedimentos de monitoramento, transparência e controle para evitar danos a direitos fundamentais.

Cabe lembrar que enquanto o legislativo não aprova um texto abrangente, o Ministério da Ciência, Tecnologia e Inovação deu início agora em dezembro à revisão da Estratégia Brasileira de Inteligência Artificial (EBIA), que foi lançada em 2021. O processo de revisão tem previsão de ser concluído em maio de 2024 e, segundo o MCTI, tem como prioridades o “desenvolvimento de aplicações voltadas para o enfrentamento dos problemas em áreas como saúde, educação, agricultura, energia e transição energética (…) com objetivo de apoiar o desenvolvimento de soluções para atender as demandas e desafios do setor público, com a perspectiva de modernizar e aperfeiçoar os serviços oferecidos ao cidadão.” Ou seja, mais projetos de IA no setor público serão fomentados, mesmo sem contar com legislação abrangente. O MCTI também está responsável pelo Eixo de Inteligência Artificial do Grupo de Trabalho de Economia Digital do G20. No projeto queinteligencia.org, desde 2019, trazemos alguns questionamentos sobre sistema de IA aplicados no setor público em países da América Latina.

B) A PROFUSÃO DE PROJETOS DE LEI SOBRE USOS ESPECÍFICOS DE DETERMINADA IA

Por fim, também é possível observar que enquanto uma lei abrangente não é aprovada, além dos projetos e emendas mencionados anteriormente, aparecem projetos de lei voltados para usos específicos de determinado tipo de de inteligência artificial de acordo com casos de usos questionáveis que vêm a público. Foi o caso do escândalo de deep fakes produzidas por alunos de graduação ilustrando colegas em cenas de nudez; como também o caso de propaganda que reproduziu por meio de IA uma versão de mídia sintética da cantora Elis Regina, e provavelmente, com os casos de deep fakes de pessoas famosas reproduzidas em anúncios falsos, também veremos mais PLs específicos sobre o tema serem apresentados. Só em 2023, podemos elencar pelo menos 25 projetos desse tipo apresentados a nível federal na Câmara e Senado (a lista está disponível abaixo, no Anexo I).

Para 2024 vale observar como essas legislações específicas, focadas em determinados tipos de IA aplicados em contextos ilícitos, muitas vezes já pré-definidos em lei, são aprovadas e implementadas. É importante também atentar para como elas conversariam com uma legislação mais abrangente sobre IA. Esperamos que nesse caso, não prevaleça a tabela de risco do senador astronauta, e sim a sabedoria apreendida pela série de audiências, palestras e consultas públicas conduzidas pela Comissão de juristas. Indo mais além, almejamos uma regulação que considere também contribuições como a recebida durante as audiências públicas da CTIA, como a da liderança indígena Time’i Awaete, presidente do Instituto Janeraka, que busca compreender de que forma as novas tecnologias elaboradas por não indígenas afetam e ameaçam seu povo Awaete. Durante sua fala ele relatou os problemas como o desmatamento, a poluição das águas e outras violações de direitos enfrentados pela comunidade do território do Xingu, próximo a Altamira, no Pará, e destacou:

Quando falamos sobre IA, é importante “que isso não seja só mais uma ferramenta que vai acumulando, acumulando, matando terra para tirar ouro, para ter mais tecnologia, matando os povos, matando a floresta e os animais, e o planeta também e a vida, a vida de vocês também. Eu como pajé, e outros lá da aldeia, já recebemos o aviso. Nós também temos inteligência. Basta a gente perceber o que realmente vai sair como positivo para nós, para não ser só mais uma ferramenta que vai monitorar e colonizar a gente. E a tecnologia, para nós, no nosso território, quando vai uma invasão no nosso território, tirar o ouro que está lá embaixo da terra, desmatar a floresta, a nossa espiritualidade está ligada a essa tecnologia também. Se tirar, tirar, tirar, a gente vai ter conflito espiritual, conflito com todo mundo, e vai aparecendo doenças. Se a gente acredita no wifi, porque a gente não acredita na nossa conexão. Sou indígena de recente contato, não sou alfabetizado, mas a minha ciência, a minha educação sempre funcionou e é assim que eu me comunico com o pessoal da minha aldeia através da tecnologia espiritual ancestral” — Time’i Awaete Assurini do Xingu.

*Obs: Também participaram do levantamento e sistematização dos pedidos de Lei de acessos à Informação as pesquisadoras Vanessa Koetz e Evelin Mattos. Design gráfico da sistematização foi feito por Clarote.

ANEXO I — PROJETOS DE LEI SOBRE TEMAS ESPECÍFICOS DE INTELIGÊNCIA ARTIFICIAL EM TRAMITAÇÃO NA CÂMARA E SENADO PROPOSTOS EM 2023 (LEVANTAMENTO FEITO ATÉ 12 DE DEZEMBRO DE 2023)

ANEXO II — RESPOSTAS DE PEDIDOS DE LEI DE ACESSO À INFORMAÇÃO CITADAS:

IBGE

IBAMA

Ministério de Estado da Mulher, da Família e dos Direitos Humanos

Receita Federal

Inteligência Artificial: retrospectiva 2023 e o que está por vir was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

Reconhecimento Facial: 10 anos de resistências e parcerias criativas para trazer o tema para o debate público

Uma tecnologia que está, literalmente, na cara do povo e cada vez mais na pauta do dia — o que também traz perigos, apontados há mais de uma década por pesquisadores e movimentos sociais

Mesmo que você não seja uma pessoa super por dentro do mundo das tecnologias, provavelmente já viu alguma polêmica envolvendo “reconhecimento facial” nos últimos tempos. Seja porque o pessoal no Twitter estava debatendo se deve ou não usar reconhecimento facial pra desbloquear app de banco, ou quem sabe porque o filtro do tiktok não tá funcionando direito no seu rosto. Ou até porque viu no jornal alguém preso injustamente pelo uso dessa tecnologia em câmeras de segurança.

Nos últimos anos, reconhecimento facial foi muito rápido de papo meio futurista pra algo comum na vida das pessoas. E o problema dessa normalização meio à jato é que essa, como tantas outras, é uma tecnologia sujeita a enviesamentos de quem a desenvolve, e está sendo usada pra coisas muito delicadas. Tipo na prisão de pessoas.

Há pelo menos uma década tem gente denunciando os perigos do reconhecimento facial na “segurança pública”, e aqui nós vamos reunir algumas iniciativas que promovemos ou impulsionamos pra resistir e inspirar o debate nos últimos anos.

Em 2014, ano em que o país tinha acabado de viver os grandes protestos de 2013, antes mesmo da Coding existir (nascemos em 2015), a Joana Varon, nossa diretora-executiva, já estava observando o tema e lançou, em parceria com a Artigo 19, o guia ilustrado protestos.org, que trazia dicas de cuidados digitais no contexto das manifestações e, entre várias dicas, alertava sobre a iminência do uso do reconhecimento facial nas câmeras de rua, e como essa tecnologia poderia ser utilizada para aumentar violência policial e repressão, ameaçando o direito de protesto. Já faz tempo, mas o alerta infelizmente ainda é bem atual.

A pesquisa Gender Shades, publicada em 2018, pela Joy Buolamwini, junto com a Timnit Gebru, é uma referência pioneira para entender viéses de raça e gênero nas tecnologias de reconhecimento facial, pois provou como sistemas de reconhecimento facial apresentam mais falhas quando aplicados em rostos de mulheres negras, funcionando melhor com homens cis brancos. Com este estudo, Joy e Timnit trouxeram o que o pesquisador brasileiro Tarcízio Silva cunhou de “racismo algorítmico” para o centro das pesquisas sobre reconhecimento facial, que até então tinham um foco mais restrito na vigilância em massa. A repercussão foi tanta que logo depois Joy fundou a Algorithmic Justice League, uma organização que faz até auditoria de algoritmos para pesquisar as ameaças dessas e outras tecnologias de inteligência artificial, em especial para pessoas negras.

Em 2019, a Joana teve o privilégio de entrevistar a Joy no MIT, em Cambridge. O vídeo foi base do primeiro episódio do webdocumentário Das Telas aos Corpos, ou From Devices to Bodies na versão em inglês. Numa das cenas do doc, recuperamos uma participação da Joy no congresso americano, sendo questionada pela Alexandria Ocasio-Cortez, em uma sessão sobre os perigos da tecnologia de reconhecimento facial. Uma conversa imperdível.

A gente ainda entrevista no doc a Mariah Rafaela Silva, pesquisadora e ativista trans, e a cientista da computação Nina Da Hora, pra contextualizar o debate no Brasil.

Ainda em 2020, a Mariah e a Joana lançaram a pesquisa Reconhecimento Facial no Setor Público — tecnopolíticas de controle e ameaça à diversidade de gênero em suas interseccionalidades de raça, classe e território. Um projeto bem importante para situar quem é visível e quem é invisível no desenvolvimento e uso dessas estruturas e para falar sobre os perigos dessa tecnologia para a população trans no Brasil.

Na pesquisa, foram reunidas também percepções de ativistas trans e dados sobre o uso do reconhecimento facial para acesso a serviços públicos, tipo o gov.br e para a Carteira Nacional de Habilitação.
Mesmo com webdoc, pesquisa, entrevista e tudo mais, a gente ainda queria falar mais sobre. E trazer gente diferente pro papo. Foi aí que resolvemos chamar a própria Dona Algô, a algoritma do reconhecimento facial, pra um podcast sobre o tema. A Dona Algô é uma personagem criada pela influenciadora Malfeitona, e nos ajudou a apresentar de forma bem humorada os erros do reconhecimento facial. No episódio, a Bianca Kremer e a Vanessa Koetz entrevistaram a Mariah Rafaela, acadêmica e ativista em direitos da população trans e Pablo Nunes, estudioso negro, ativista e especialista em segurança pública e racismo.

Em meio a tanta pesquisa e tentativas de traduzir o assunto para um público mais amplo, também tivemos em arenas de incidência política mais direta. Em 2019, a Joana Varon participou de uma audiência pública promovida pela Comissão de Ciência, Tecnologia, Comunicação e Informática da Câmara dos Deputados sobre reconhecimento facial, proposta pelo deputado Bibo Nunes. Uma mesa bem pouco diversa e com muitas pessoas que defendiam os interesses da indústria. A serviço de quem pode ser uma regulação pensada em um espaço assim?

Felizmente, uns anos depois, outras iniciativas, com atores mais diversos e críticos, começaram a surgir no legislativo. Em 2022, ajudamos a impulsionar a campanha “Sai da Minha Cara”, uma articulação com mais de 50 parlamentares que apresentaram projetos de lei pelo banimento do reconhecimento facial em espaços públicos, em diálogo com organizações da sociedade civil e pesquisadores, como Coding Rights, MediaLab-UFRJ/Rede Lavits, Instituto Brasileiro de Defesa do Consumidor (Idec) e Centro de Estudos de Segurança e Cidadania — (CESeC).

E também construímos, junto com as organizações da Coalizão Direitos na Rede e muitas outras, a campanha Tire Meu Rosto da Sua Mira, outra iniciativa importante para abrir caminhos para o debate em diferentes espaços de formulação de políticas e mobilização, em diálogo também com movimentos sociais. Uma perspectiva bem mais promissora do que uns anos atrás…

Um momento importante nesse processo foi a decisão do Tribunal de Justiça do Estado de São Paulo de suspender liminarmente o pregão do projeto Smart Sampa, depois de representação apresentada pela Coding em conjunto com outras entidades da Campanha Tire Meu Rosto da Sua Mira ao Tribunal de Contas do Município de São Paulo. O edital da Smart Sampa previa a contratação de equipamentos eletrônicos e a implementação de mais de 20 mil câmeras de reconhecimento facial na capital paulista até 2024. Depois o pregão acabou acontecendo, contemplando uma empresa cheeeia de polêmicas, como a gente ajudou a contar em uma reportagem da série “Quem Paga a Conta?”, em parceria com o The Intercept Brasil e CESeC. Essa série aponta a falta de transparência nos investimentos públicos na implementação de tecnologias de reconhecimento facial. As matérias denunciam desde empresas americanas fazendo reuniões secretas com órgãos federais de segurança para oferecer fotos de brasileiros e brasileiras até contratos milionários de câmeras com tecnologias de reconhecimento facial em cidades muito pequenas onde sequer a prefeitura sabia que o projeto existia.

Levando em conta todo esse acúmulo sobre o tema e o avanço da implementação das tecnologias de reconhecimento facial pelo poder público no país, o mandato da deputada estadual Dani Monteiro (PSOL), organizou, em agosto deste ano, junto à campanha Tire Meu Rosto da Sua Mira, da qual fazemos parte, o seminário “Reconhecimento Facial no Rio de Janeiro: Diálogos e Resistências”. O evento reuniu organizações que debatem o tema no território fluminense com o objetivo de ampliar o debate com parlamentares estaduais e municipais, e contou com a presença da Joana Varon em uma das mesas trazendo um panorama histórico do debate. Estiveram presentes, além de deputadas da ALERJ, vereadoras dos municípios de Niterói e Rio de Janeiro. Uma iniciativa fundamental entre a sociedade civil e o poder público para que o poder público não utilize esse tipo de tecnologia sem que haja uma ampla discussão com a sociedade sobre suas implicações à vida da população.

E o debate não pode parar por aí. Reconhecimento facial é uma das primeiras tecnologias de inteligência artificial a ser utilizada de forma massiva pelo poder público, no Brasil e em vários outros países. Mas isso não quer dizer que seja a única. Em 2021 nós lançamos um projeto com a pesquisadora Paz Peña chamado Que Inteligência?. A ideia era mapear e analisar projetos de Inteligência Artificial implementados pelo setor público na América Latina. Descobrimos que reconhecimento facial representa uma primeira onda de implementação de IA com riscos sérios de automatizar uma série de opressões históricas, mas policiamento preditivo, e outros projetos de IA usados em áreas como distribuição de benefícios sociais, educação, saúde — sobretudo direcionados para populações mais vulnerabilizadas já estão em fase piloto, representando grandes ameaças na garantia de direitos fundamentais.

A gente espera que toda essa retrospectiva ajude de alguma forma a inspirar resistências a tecnologias que vão sendo implementadas acriticamente pelo poder público, aumentando violências contra corpos e grupos que justamente deveriam estar sendo acolhidos. E que a gente possa seguir imaginando outras possibilidades de futuros, com criatividade e coletividade.

Reconhecimento Facial: 10 anos de resistências e parcerias criativas para trazer o tema para o… was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

“Estão tratando as mudanças climáticas como quem cuida de um corte grande e profundo só com um Band-Aid”: Uma entrevista com Alana Manchineri

Entrevista feita por Joana Varon, diretora executiva da Coding Rights, originalmente publicada em português e inglês na revista Branch

Versão em inglês: ‘The climate change situation is being handled like treating a large, deep cut with a Band-Aid: An interview with Alana Manchineri’

Quem diz isso é a Alana Manchineri, gerente de comunicação da Coordenação das Organizações Indígenas da Amazônia Brasileira (COIAB). Tive a oportunidade de conhecê-la em julho de 2022, na Costa Rica. Ela acompanhava a parente Marciely Ayap Tupari enorme evento de tecnologia e direitos humanos, o Rightscon.

Era de manhã cedinho. Alana sentou-se ao meu lado, na plateia. Com o celular em punho e animada, buscava o melhor ângulo para registrar a colega. Eu abri caminho: mulheres indígenas trabalhando. A fala de Marciely foi tão potente que logo eu também estava com o celular na mão, registrando e postando. A intervenção inspirou e terminou com todas as pessoas presentes retratadas em uma foto-protesto contra a aprovação do Marco Temporal no Brasil¹.

Logo depois, ainda estivemos juntas na imersão do Green Screen, evento sobre tecnologias e mudanças climáticas que inspirou essa edição da Branch Magazine. Alana mora em Manaus, cidade cercada pela Floresta Amazônica, onde o Rio Negro se junta ao Solimões para desaguar no Rio Amazonas. Eu moro no Rio de Janeiro, cidade densamente povoada entre o mar e os morros cobertos de concreto e Mata Atlântica. Depois desses encontros na Costa Rica, mesmo a distância, tive a honra de entrevistá-la. Para a conversa, trago minha trajetória pesquisadora e ativista que tenta levar uma visão feminista e decolonial para o debate sobre direitos humanos e tecnologias. Muito me move poder ouvir mulheres inspiradoras que, no dia a dia, usam a criatividade e a força do coletivo para hackear violências coloniais e fortalecer modos de vida alternativos, contemporâneos e ancestrais. Esta entrevista tenta inspirar você também, pois ao registrar um pouco da visão da Alana e do trabalho coletivo da COIAB, podemos perceber melhor como o debate sobre mudanças climáticas e tecnologia só atingirá futuros realmente sustentáveis e equitativos se reconhecer a luta e assegurar os direitos de povos indígenas e a proteção de seus territórios.

Joana: Alana, poderia contar para a gente sobre a missão da COIAB, e, mais especificamente, qual o seu trabalho por lá, situando pro pessoal de fora o contexto político brasileiro?

Alana: A COIAB foi fundada no dia 19 de abril de 1989, após a Constituinte². Ela tem um papel bastante relevante nos territórios [indígenas] de ação política para a proteção da Amazônia. Sabia que o Brasil e o Peru são os dois países com o maior índice de violência contra os povos indígenas, de desmatamento e de degradação da floresta e dos biomas? Nesse contexto, a COIAB atua nos nove estados da Amazônia brasileira, [que é] toda a Amazônia Legal³. Nós a dividimos em 64 regiões de base, o que mostra um pouco da diversidade territorial e de povos indígenas dentro do território regional da Amazônia.

Isso também se reflete na nossa coordenação executiva, eleita no ano passado. Ela é composta pelo coordenador geral Toya Manchineri, do Estado do Acre; pelo vice-coordenador Alcebias Sapará, de Roraima; pelo coordenador tesoureiro, Avanilson Karajá, do Tocantins; pela coordenadora-secretária, Marciely Tupari, de Rondônia, que participou comigo do evento. E temos também o vice-coordenador secretário, Sergio Galibi-Marworno, que é do Amapá, e a vice-coordenadora tesoureira, a Dineva Kayabi do Mato Grosso. Então, a gente tem boa parte de toda a Amazônia brasileira representada na nossa coordenação executiva.

Hoje, temos uma estrutura que abrange projetos de grandes proporções. Na época da pandemia, a gente teve um orçamento maior do que o de muitos municípios do Brasil. Então, a gente tem um papel extremamente relevante na Amazônia brasileira. Nós fundamos o fundo Podáali, que é um fundo indígena para captação e redistribuição de recursos aos povos, organizações e comunidades da região. Também fazemos parte da UMIAB, a União das Mulheres Indígenas da Amazônia Brasileira. Então, [dá para ver que] a gente opera de maneira bem diversa. E atuamos em seis eixos: povos isolados, de recente contato; gênero, juventude e infância indígena na Amazônia; formação política e técnica; fortalecimento institucional das organizações e suas bases, dentre outros.

Com essa estrutura, hoje a COIAB é referência na Amazônia brasileira. Inclusive na comunicação, porque nós somos a única organização regional que possui uma rede de comunicadores [oriundos] dos nove estados da Amazônia brasileira. Então, a gente também cuida para que essa comunicação seja democrática e ampla para todas as nossas regionais.

Joana: O seu trabalho se insere na gerência de comunicação, né? Explica para gente um pouco o que você faz conectando tantos pontos dessa rede regionalmente tão ampla que é a COIAB…

Alana: Eu gerencio uma equipe de sete pessoas, mais nove comunicadores, um de cada estado da Amazônia, que são indicações das organizações de base. Em 2022, nós fizemos um planejamento aqui em Manaus com as lideranças dessas organizações, para que elas pontuassem quais eram as metas que elas queriam que a COIAB tivesse. Assim, agora temos esse plano de comunicação, o planejamento estratégico da COIAB, além das demandas diárias de denúncia de violações. Eu faço a gestão desses conteúdos e da programação institucional. E hoje temos pelo menos 30 projetos institucionais. Também fazemos a cobertura e gestão de comunicação dentro desses projetos, a assessoria de imprensa nacional e internacional e ainda uma orientação para as lideranças de base. Por exemplo, quando uma liderança de base vai para algum evento nacional ou internacional, nós a orientamos conforme os posicionamentos coletivos da COIAB. Foi por isso que fui junto com a Marciely para Costa Rica.

Joana: É incrível, de verdade, o quão conectada com todo o território da Amazônia Legal é a COIAB. Isso em um espaço territorial onde as extensões e distâncias são longas, a comunicação é complexa e a variedade linguística abundante. Impressionante também ver como vocês mantêm processos coletivos no centro de tudo e como montaram uma organização institucional tão estruturada. Agora que deu para entender um pouco do seu trabalho e da COIAB, queria entrar mais no tema da tecnologia. Queria que você falasse sobre a visão que vocês têm quanto à atuação no território amazônico de algumas das chamadas Big Techs, as grandes empresas de tecnologia, como a Starlink e o Google, e como isso afeta a luta dos povos indígenas na região.

Alana: Essas empresas utilizam conhecimento extraído dos nossos territórios, das comunidades tradicionais. As fibras óticas seguem uma ideia de rede, algo que a gente pode muito bem comparar com as redes que são formadas pelas raízes e com como essas raízes se conectam, não é? Elas trazem um pouco desse modo de conectar uma árvore com a outra: [são como] um ecossistema, [como os] biomas. A gente entende dessas diferentes estruturas de comunicação há muito tempo, mas isso não é reconhecido. É como se, de maneira racista, considerem que nossos conhecimentos são ultrapassados, mas a verdade é que são conhecimentos valiosos. Por que a mesma coisa, quando colocada por uma pessoa não indígena, por uma empresa, por uma família rica, por uma família bilionária, é vista como algo super valioso? Quando é pela gente, não é assim. Para nós, isso é exploração, seja do conhecimento, seja de matéria-prima. É exploração mesmo, até dos nossos próprios corpos.

Além disso, a gente tende a falar sobre a comunicação como um direito. A gente entende que as violações dos nossos direitos, tanto nos territórios, quanto nas cidades, só acabam ou diminuem se a gente conseguir fazer uma boa divulgação, se a gente conseguir denunciar, comunicar. Por isso, o que a gente tem fortalecido é o acesso a esses direitos pelas comunidades, seja pela telefonia, seja pela internet. Mas o que a gente entende é que essas grandes empresas já fazem o debate há muito tempo, ocupando espaços estratégicos de um jeito que a gente às vezes nem tem dimensão. Um exemplo é a gente estar discutindo, nesse primeiro momento, o acesso a essas tecnologias, enquanto os grileiros, fazendeiros e mineradores já têm conectividade há muito tempo4, e utilizam essas tecnologias para aplicar nas redes sociais a narrativa particular deles, com uma visão de desenvolvimento que na verdade gera destruição e invasão. A COIAB entende que, enquanto a gente não tiver poder sobre essas tecnologias, continuaremos reféns da violência e do colonialismo, seja tecnológico, seja físico. Porque, para nós, povos indígenas, sempre é muito mais difícil acessar esse tipo de direitos.

Para nós, é importante ter acesso a essas tecnologias de acordo com os nossos protocolos de consulta, de acordo com os nossos entendimentos, de acordo com as nossas perspectivas de vida dentro do território. E é importante também que a gente consiga pautar o Estado e essas grandes empresas sobre a origem dos recursos minerais para o desenvolvimento dessas tecnologias. Qual é o papel social dessas tecnologias e dessas grandes empresas? Elas buscam sempre o lucro; mas nós, povos indígenas, ao acessar essas tecnologias, estamos buscando a sobrevivência, a manutenção dos nossos modos tradicionais de vida, do nosso território, das florestas. Nós percebemos o racismo tecnológico que existe no acesso ou na falta de acesso às tecnologias dessas empresas. A gente vê que enquanto houver essa desigualdade [de acesso às tecnologias de comunicação], estaremos sempre do lado mais frágil, que é o lado das pessoas afetadas, que não utilizam o monitoramento para a violência, mas, sim, para a proteção dos territórios.

Joana: No encontro da Green Screen, vocês chegaram a mencionar uma outra forma de colonialismo exercida pelas grandes empresas estrangeiras de tecnologia: o mapeamento pelo Google de informações sobre as árvores dos territórios. Poderia contar o que vocês têm visto sobre isso?

Alana: É, a coordenadora Marciely trouxe essa denúncia de que em alguns lugares estão acontecendo mapeamentos das árvores pelo Google. Algumas empresas querem fazer crédito de carbono, contrato de crédito de carbono. Parece que essas empresas estão utilizando a internet para fazer o mapeamento dessas árvores e calcular o potencial de carbono aprisionado nessas árvores. Essas são algumas denúncias que temos recebido das bases na COIAB e tentado entender. Porque, como organização que atua em toda uma região, podemos gerar um entendimento coletivo, trocando com as nossas organizações de base, com as lideranças, para que toda essa informação seja de fato revelada e todo mundo consiga ter acesso a ela.

Joana: Tem gente que, operando sob uma lógica de monetização da natureza, a lógica dos créditos de carbono e da economia verde, vai achar que isso não é um problema ou que seria bom fazer esse tipo monitoramento. Como vocês veem isso? Porque essas empresas se vendem como salvadoras, vendendo a narrativa de que estão empregando tecnologias para salvar o planeta das mudanças climáticas. Tentam justificar, assim, virem mapear quantas árvores os territórios têm, para saber o quanto podem lucrar com créditos de carbono. É uma narrativa de comercialização da natureza, seria importante se você puder complementar trazendo seu posicionamento crítico sobre isso.

Alana: É, de fato, o nosso entendimento é crítico. Essas empresas têm tratado a situação das mudanças climáticas como quem trata um corte grande e profundo só com um Band-Aid. Na verdade, são elas que causam esses desequilíbrios. Como eu mencionei, de onde estão saindo os minérios utilizados por essas grandes empresas? De onde está saindo a madeira? De onde está saindo a água? Nesse encontro foi mencionado que o chatGPT utiliza uma grande quantidade de água. De onde estão saindo esses recursos senão dos territórios da floresta? A gente vê, por exemplo, como essas grandes empresas tecnológicas têm percebido que o aporte financeiro para deputados que são contra as pautas ambientais e contra os povos indígenas dá retorno para eles. Porque, quando não se tem um Estado com poder de legislação e de fiscalização forte, essas empresas invadem os territórios sem serem responsabilizadas. Há quanto tempo está sem solução o caso de Mariana5? Quantos outros casos há de empresas que fazem exploração dentro de espaços da União ou de territórios indígenas que não são responsabilizadas por seus atos? Essas empresas estão sempre buscando capitalizar algo. Num momento, é capitalizar o território, em outro momento, é o ar, o espaço aéreo, ou o que a gente está produzindo, de conhecimento milenar e ancestral dentro dos territórios. É a forma de capitalizar tudo o que se vê pela frente e a perder de vista. Acho que as empresas estão tentando hoje simplesmente apagar um incêndio que elas mesmas causam.

Joana: Como a COIAB mesmo diz, “os povos indígenas são as grandes autoridades do clima”, né? São séculos de conquistas e batalhas na luta pela proteção de territórios, da cultura tradicional, da biodiversidade e das próprias vidas; séculos na luta contra o genocídio de parentes, contra a exploração causada pela mineração, pelo desmatamento ilegal e pelo roubo do conhecimento tradicional. Essas violências hoje também estão sendo habilitadas pelo uso de tecnologias concebidas sob a lógica do capitalismo da vigilância e do colonialismo digital. Diante do contexto histórico dessas lutas, e do colapso iminente da crise climática, como você acha que as organizações e movimentos que trabalham nesse campo de intersecção entre tecnologia e direitos humanos podem colaborar de maneira respeitosa com as lutas dos povos indígenas?

Alana: Eu entendo que essas organizações que fazem esse debate a respeito da tecnologia [e dos direitos humanos] precisam ajudar a democratizar o acesso a informações. Eu entendo que existe um fluxo muito grande de informações sobre essa área entre São Paulo e Rio de Janeiro. Esses estados do Sudeste, talvez por estarem mais perto dessas grandes empresas, têm mais acesso a esse tipo de informação. Já a gente, que está bem aqui na Amazônia, bem onde estão acontecendo várias violações, não: porque, ou a gente faz a denúncia sobre a violência que acontece com os Yanomami, ou a gente para para ler sobre o domínio tecnológico, sobre governança da tecnologia. Por exemplo, agora eu estou participando dessa entrevista, que é super importante para nós, mas aconteceu o assassinato de um Yanomami lá no território de Roraima. Então, a comunicação da COIAB toda se volta para isso, para essa questão urgente. Nós costumávamos dizer que durante o governo Bolsonaro tinha toda hora uma emergência, uma emergência indígena. Mas a gente ainda continua sofrendo com a perspectiva do fascismo, né? Existe uma estratégia de manipulação das massas, porque, enquanto estamos buscando proteger os territórios (no ditado popular, “apagar o fogo”), eles estão “fazendo a boiada passar”, né? O próprio Ricardo Salles6 falou isso no ano passado. “Vamos aproveitar que eles estão distraídos e vamos “passar a boiada”. E, basicamente, é o que a gente tem sentido. O Marco Temporal passou na Câmara Federal. E antes disso estava acontecendo a CPI do MST7. Aí passa o Marco Temporal para ser debatido no Senado e depois vem a tese temporal no Supremo Tribunal Federal. Aí vem a MP 11548, depois a CPI das ONGs9. Então, é uma estratégia, muito desenhada, de como manter a gente ocupada, para não conseguirmos acessar e garantir nossas perspectivas nesses outros espaços também. Por mais que a gente esteja vivendo um governo de composição com a esquerda, vivemos a questão do fascismo muito grande: o fascismo do capital acima de tudo10, acima da vida, acima das vidas humanas.

Eu acho que o que converge entre nós é o direito, o direto ao acesso de forma universal. E entendemos ser necessário se apoiar: uma organização apoia a outra. A gente está nessas pautas urgentes o tempo todo, enquanto outras organizações focam muito mais no acompanhamento das tecnologias. O que a gente tem feito, na condição de organização indígena, é se aliar a essas organizações que fazem esse tipo de ação. A gente tem várias parcerias, e elas vão cobrindo a nossa falta. E, quando surge um momento para a gente se unir, a gente vai se unindo, vai buscando se apoiar uns aos outros.

Joana: Sim, mesmo é fundamental a troca de informação e as alianças inclusive para colaborar para que mais representantes dos movimentos indígenas possam também ocupar espaços de poder e de tomada de decisão nos debates sobre tecnologia. Alguma observação final que você queira fazer?

Alana: Precisamos continuar fortalecendo essas organizações indígenas, quilombolas, ribeirinhas. Quando a democracia no Brasil foi subjugada, foi preciso que os movimentos sociais estivessem extremamente fortalecidos para poder ter impacto contra o fascismo. Eu costumo dizer que talvez um dos únicos movimentos que tiveram grande impacto no momento em que Bolsonaro estava tentando avançar com pautas fascistas e contra a proteção da Amazônia foi o movimento indígena. Mesmo sem ter parlamentar, sem ter muito dinheiro, sem ter um governo, durante um governo de extrema direita, o movimento indígena conseguiu ter um impacto. E eu acho que mesmo com a gestão do Lula, a gente não pode descansar. Sim, eu sei que esse é um momento que todo mundo pensa que seria tranquilo, que a gente iria aproveitar um pouco para viver, porque a gente passou por uma pandemia maluca. Mas talvez esse seja o momento que precisamos ficar mais vigilantes, porque três anos passam muito rápido. Com o Bolsonaro até pareceu que demorou mais, porque ele realmente é um genocida fascista. Mas três anos vão passar muito rápido, numa perspectiva de movimento social que precisa se fortalecer por muito, muito tempo. E eu costumo sempre dizer que acho que essas tecnologias também precisam ser usadas para impulsionar as ações para [uma maior] ocupação [indígena] no Legislativo. Ter deputados e deputadas que são a favor das nossas pautas é extremamente relevante.

A gente corre o risco de ter várias deputadas cassadas11, porque, se a oposição quiser, eles têm votos suficientes para fazer a cassação dessas pessoas e também para passar qualquer coisa. Hoje, se a gente não tiver uma gestão que faça composição com esses partidos, com muita facilidade eles poderiam também pedir um impeachment, né? Por muito menos, a Dilma foi “impichada”. A gente entende a gravidade do que estamos vivendo, e o quanto que talvez esse posicionamento sobre as tecnologias seja importante para a eleição dessas pessoas que representam de fato a gente. Eu entendo e acompanho a eleição desde muito tempo. O quanto esses grandes fazendeiros impulsionam, dão dinheiro e gastam com tecnologia para essas pessoas serem reeleitas, para terem o melhor slogan, a melhor identidade visual. Tem pessoas pagas para disparar mensagens. Então, acho que talvez a gente tenha que se aproximar também dessa pauta de formação política e de financiamento de campanha, porque hoje ele já é feito para esses que são ruins. A gente precisa pensar estratégias para que as pessoas que realmente representam a população consigam acessar essas informações, consigam ter acesso a essas tecnologias, também para ajudar na eleição.

Joana: Muito interessante que a violência política de gênero e as estratégias de comunicação e tratamento de dados nos meios digitais apareceram aqui nas suas sugestões de intersecções das agendas dos movimentos. Diante do crescimento da ultra direita no mundo, é um ponto chave mesmo. Obrigada, Alana, muito grata pelo seu tempo e pela partilha. Seguimos!

Alana Manchineri é gerente de comunicação da Coordenação das Organizações Indígenas da Amazônia Brasileira (COIAB)

Joana Varon é Diretora Executiva da Coding Rights e pesquisadora afiliada do Berkman Klein Center for Internet and Society da Havard Law School

NOTAS DE RODAPÉ

1. A tese do Marco Temporal está por ter sua constitucionalidade apreciada em votação no Supremo Tribunal Federal. É uma tese jurídica e política que limita os direitos de povos indígenas ao querer estabelecer que o direito à terra fica restrito apenas aos indígenas que a ocupavam em 1988, quando foi promulgada a Constituição. Trata-se de uma violação a um direito originário.
2. Constituinte diz respeito ao Congresso Nacional Constituinte, estabelecido em 1987, depois de 21 anos de ditadura militar, com o finalidade de redatar uma Constituição democrática para o país. O texto, vigente até hoje, foi promulgado em 1988 e deve forte atuação de lideranças indígenas que asseguram, ainda que no papel, e o direito originário de povos indígenas sobre as terras que tradicionalmente ocupam.
3. Amazônia Legal compreende uma área de mais de 5 milhões de quilômetro quadrados, mais de 59% do território brasileiro, abarcando nove estados: Amazonas, Acre, Pará, Amapá, Roraima, Rondônia, Mato Grosso, Tocantins e parte do Maranhão.
4. Em junho de 2023, o Instituto Brasileiro do Meio Ambiente (Ibama) apreendeu 11 kits da Starlink em áreas de garimpo ilegal na terra indígena Yanomami, juntamente com armas e motoserras. No mesmo mês, o governo do Amazonas se queixou dos investimentos de Musk na Amazônia Legal e desabafou: “A internet que ele começou a colocar na Amazônia nunca esteve conectada às políticas públicas. Resultado: traficante, grileiro e criminosos têm a antena do Elon Musk, mas a comunidade mais simples, lá do interior, não tem acesso”. O Ibama tem estudado, juntamente com outros órgãos, bloquear o sinal da Starlink em áreas de mineração ilegal.
5. Mariana é um distrito de Minas Gerais, na região Sudeste do Brasil, onde, em 2015, se rompeu a barragem do Fundão, usada pela Mineradora Samarco para depositar rejeitos tóxicos de minério de ferro. A lama tóxica percorreu, através do Rio Doce, mais de 600km até chegar ao oceano Atlântico, atingindo 41 cidades da região e territórios indígenas, no que é considerado um dos maiores crimes ambientais do Brasil. Em 2019 foi a barragem da Mina do Córrego do Feijão, da Mineradora Vale, localizada em Brumadinho, também em Minas Gerais, que se rompeu, causando mais mortes e destruição criminosa. Tanto a Vale, quanto a Samarco exportam minérios para países da Europa e China, onde são manufaturados eletrônicos usados em todo o mundo.
6. Ricardo Salles foi Ministro do Meio Ambiente da gestão Bolsonaro e ficou conhecido por, entre outras atrocidades, no meio do auge da crise humanitária da pandemia da COVID-19, dizer em uma reunião governamental que era a hora de “fazer a boiada passar”, fazendo referência a sua vontade de mudar rapidamente regras de proteção ambiental enquanto, segundo ele, a atenção da mídia estava voltada para a pandemia.
7. Comissão Parlamentar de Inquérito (CPI) contra o Movimento dos Sem Terra, que ocupa áreas improdutivas e sem função social em diversas regiões do país. Foi instaurada em abril de 2023 por deputados de oposição, em sua maioria da bancada ruralista, e é presidida por Ricardo Salles.eção ambiental enquanto, segundo ele, a atenção da mídia estava voltada para a pandemia.
8. Medida Provisória que reestruturou ministérios, inclusive prevendo a criação do Ministério de Povos Indígenas.
9. Comissão Parlamentar de Inquérito estabelecida por senadores da oposição para investigar ONGs que atuam na região amazônica sob a narrativa descabida de que tais organizações operam apenas para difamar a imagem do Brasil e da Amazônia. A CPI tem sido vista como uma forma de desviar a atenção de questões como o enfraquecimento de estruturas de fiscalização e combate ao desmatamento e às invasões de terras indígenas; criminalizar ONGs e atacar quem trabalha na defesa da Amazônia e dos povos que ocupam este território.
10. O slogan eleitoral “Brasil acima de tudo, deus acima de todos” pelo qual Bolsonaro foi eleito em 2018, foi inspirado no dito nazista Deutschland über alles, e seguiu sendo utilizado durante a gestão do hoje inelegível ex-presidente.
11. Em junho de 2023, seis deputadas federais de partidos de esquerda, Célia Xakriabá, Sâmia Bomfim, Talíria Petrone, Erika Kokay, Fernanda Melchionna e Juliana Cardoso, viraram alvo de processo no Conselho de Ética da Câmara por protestarem contra parlamentares que votaram a favor do Marco Temporal para a demarcação de terras indígenas. A representação foi instaurada por deputado do PL, partido de extrema direita, alvejando apenas mulheres, ainda que outros deputados também tenham protestado.

“Estão tratando as mudanças climáticas como quem cuida de um corte grande e profundo só com um… was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

Quem Paga a Conta? Intercept Brasil, Coding Rights e CESeC lançam série de Jornalismo investigativo em parceria

Você sabe quem lucra e quem é punido com a explosão dos sistemas de reconhecimento facial para fins de segurança no Brasil? Junto com o Centro de Estudos de Segurança e Cidadania (CESec) e o Intercept Brasil, a Coding Rights lança o projeto Quem Paga a Conta, uma sequência de 4 matérias investigativas que jogam luz em como e onde essa tecnologia, altamente enviesada, está sendo implementada em atividades de segurança pública no país.

O Mecenas, a primeira reportagem da série “Quem paga a conta?”, foi publicada no dia 05 de abril e traz o caso do Ex-Deputado Federal Delegado Waldir, que torrou R$ 30 milhões em reconhecimento facial para 130 cidades de Goiás, muitas sequer têm saneamento básico.

A compra dessas tecnologias teve um empurrãozinho de Sergio Moro que, como Ministro da Justiça, passou a exigir reconhecimento facial nesses sistemas, fomentando a ideia de convênios diretos entre municípios e o Ministério da Justiça para massificar o uso da tecnologia. No caso de Goiás, os recursos, obtidos por meio de emendas parlamentares pelo Delegado Waldir, foram direcionados sempre às mesmas empresas, o que chamou atenção para abertura de investigação pela polícia federal.

14 fotos por ser humano, a segunda reportagem da série, foi publicada no dia 16 de maio e joga luz na polêmica Clearview AI, empresa que já foi processada e multada por governos da Itália, Alemanha, Canadá, Austrália, França, entre outros, por coletar imagens por toda a Internet, sem consentimento, para desenvolver seus sistemas. Apuramos que ela tentou vender seus produtos por aqui, para o Ministério da Justiça de Bolsonaro e outros órgãos de segurança pública.

Se você tem perfis abertos nas redes sociais ou seu rosto já apareceu em algum site público, uma imagem sua pode estar entre as 3 bilhões que a empresa Clearview AI afirma ter de pessoas brasileiras no seu banco de dados. Claro, isso é um grave desrespeito a leis de proteção de dados pessoais.

A terceira reportagem da série, Um preso por milhão, foi publicada no dia 31 de julho e traz o caso da pequena Seabra, município de 49 mil habitantes que fica na Chapada Diamantina, escolhida pelo governo da Bahia como uma das 78 cidades a receber a tecnologia de reconhecimento facial. Nem mesmo a prefeitura da cidade sabia do funcionamento desse sistema de monitoramento facial no local — até ser questionada pelo Intercept. São 8 câmeras cobrindo parte do centro urbano do município, que conta com cobertura adequada de saneamento básico em apenas 4% de seu território e sequer faz parte da lista de cidades mais violentas do estado.

Segundo a reportagem, serão 997 câmeras implantadas gradualmente nos municípios baianos. Até agora, segundo a Secretaria de Segurança Pública da Bahia, 760 pessoas foram presas no estado com o auxílio do reconhecimento facial desde 2019, ano em que o sistema foi implementado e que se mostra como o principal gasto do governo baiano na área de segurança pública. Cada prisão feita a partir dessa tecnologia na Bahia custou, em média, 875 mil reais. Especialistas alertam que esses valores exorbitantes poderiam ser investidos na construção de bem-estar social e geração de empregos no estado.

Crise de imagem é a quarta e última reportagem da série “Quem paga a conta?”. Publicada no dia 14 de agosto, a matéria trata sobre a cidade de São Paulo e a implementação do reconhecimento facial na segurança pública por meio do projeto Smart Sampa, que pretende instalar 20 mil câmeras pela cidade. Não bastasse o uso de uma tecnologia pra lá de questionável e um edital cheio de polêmicas, a empresa escolhida para o Smart Sampa tem um longo histórico de denúncias por corrupção. Mesmo ficando em 3° lugar no pregão, o Consórcio Smart City SP foi o escolhido pela prefeitura de São Paulo para tocar o projeto de R$ 588 milhões para capturar seu rosto.

Confira aqui a série completa Quem Paga a Conta?

Quem Paga a Conta? was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

Coding Rights lança Nota Técnica sobre impactos da Inteligência Artificial no setor público do Brasil

Documento é uma contribuição para a Comissão de Juristas do Senado que debate o tema

De 45 entes públicos federais consultados até outubro de 2021 via Lei de Acesso à Informação, 23 declararam fazer uso de sistemas de inteligência artificial para desenvolvimento de seus trabalhos e funções, incluindo a implementação das políticas públicas. Tudo isso sem a existência de um marco legal abrangente.

Essa foi uma das conclusões apontadas na Nota Técnica enviada pela Coding Rights para a consulta pública da Comissão de Juristas do Senado Federal (CJSUBIA), responsável por estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil. Em maio deste ano já havíamos participado do ciclo de audiências públicas organizado pela Comissão, participando do painel sobre “vieses e discriminação”, agora, nossa nossa técnica focou especificamente nos eixos de trabalho definidos pela consulta pública como “Impactos da Inteligência Artificial” e “Direitos e Deveres”.

Nossos dados preliminares já indicam que o uso de algum tipo de inteligência artificial pelo setor público no Brasil, ainda que em estágio piloto, é uma realidade. Mas quase nada se sabe sobre a necessidade real desses sistemas, não existem análises de impacto, ou qualquer dados que comprovem alguma eficiência na sua implementação, além de ser comum que as partes envolvidas tentem se eximir de eventuais responsabilidades.

O quadro a seguir ilustra cada órgão consultado e a resposta autodeclarada:

Desde 2018, a Coding Rights vem desempenhando um extenso trabalho de pesquisa, em parceria com outras especialistas em inteligência artificial e direitos humanos sobre os impactos da I.A na América Latina e no Brasil. Nossa Nota Técnica foi escrita com base nos resultados deste estudo, liderado por Joana Varon e Paz Peña, que segue em execução e tem parte de seus resultados consolidados no website “Not my A.I.”.

O intuito da plataforma é difundir os acúmulos já existentes acerca dos impactos do aprendizado de máquina e estimular os debates entre organizações engajadas na promoção da justiça social, particularmente em temas que visam assegurar e avançar em direitos de equidade de gênero e suas interseccionalidade de raça, classe e sexualidade. O que se espera é que novas tecnologias não sejam usadas no sentido de automatizar desigualdades históricas.

Infelizmente, isso já está ocorrendo. Governos de toda a América Latina estão implementando ou testando uma ampla variedade de sistemas de Inteligência Artificial na prestação de serviços públicos que reproduzem preconceito e discriminação. Algumas vezes com o apoio de empresas dos EUA que usam a região como um laboratório de ideias e de aplicação de tecnologias que não ousam testar em seus países de origem. Até abril de 2021 a plataforma já havia mapeado 24 casos no Chile, Brasil, Argentina, Colômbia e Uruguai, que foram classificados em cinco categorias: Educação; Sistema Judicial; Policiamento; Saúde Pública e Benefícios Sociais.

Necessidade de mudança de paradigma para longe da lógica irresponsável dos tech bros que pregam o “move fast and break things”

Sistemas de I.A. baseiam-se em modelos que são representações universalizadas e simplificações abstratas de realidades complexas nos quais muitas informações são deixadas de fora por decisão de seus criadores. Como aponta Cathy O’Neil em seu livro “Weapons of Math Destruction”: “[M]odelos, apesar de sua reputação de imparcialidade, refletem objetivos e ideologia. […] Nossos próprios valores e desejos influenciam nossas escolhas, desde os dados que escolhemos coletar até as perguntas que fazemos. Modelos são opiniões incorporadas na matemática”.

Consequentemente, algoritmos são criações humanas sujeitas a falhas. Os seres humanos estão sempre presentes na construção de sistemas automatizados de tomada de decisão: são eles que determinam os objetivos e usos dos sistemas, que definem quais dados devem ser coletados para tais objetivos e usos, que coletam esses dados, que decidem como capacitar as pessoas que usam esses sistemas, avaliam o desempenho do software e, em última análise, agem segundo as decisões e avaliações feitas pelos sistemas.

E antes mesmo de rodar algorítmos, preconceito e descriminação pode estar presente na construção do banco de dados. Conforme afirma Tendayi Achiume, Relatora Especial sobre formas contemporâneas de racismo, discriminação racial, xenofobia e intolerância relacionadas, no relatório “Racial discrimination and emerging digital technologies”, os bancos de dados usados nesses sistemas são resultado do design humano e podem ser tendenciosos de várias formas, potencialmente levando — intencionalmente ou não — à discriminação ou à exclusão de certas populações, especialmente minorias em questões de identidade de raça, etnia, religião e gênero.

Diante desses problemas, deve-se reconhecer que parte da comunidade da tecnologia tem feito várias tentativas para definir matematicamente “justiça” e, assim, atender a um padrão demonstrável sobre o tema. Da mesma forma, várias organizações, privadas e públicas, têm empreendido esforços para estabelecer padrões éticos para a I.A. A visualização de dados “Principled Artificial Intelligence”, publicada por pesquisadoras do Berkman Klein, mostra a variedade de quadros éticos e baseados em direitos humanos que surgiram em diferentes setores a partir de 2016 com o objetivo de orientar o desenvolvimento e o uso de sistemas de I.A. O estudo revela “um consenso crescente em torno de oito tendências temáticas principais: privacidade, responsabilização, proteção e segurança, transparência e explicabilidade, justiça e não discriminação, controle humano da tecnologia, responsabilidade profissional e promoção dos valores humanos”. No entanto, como podemos observar desta lista, nenhum desses consensos é impulsionado por princípios de justiça social. Talvez, em vez de perguntar como desenvolver e implantar um sistema de I.A., deveríamos antes perguntar “por que o construir?”, “é realmente necessário?”, “a pedido de quem?”, “quem se beneficia dele?”, “quem é prejudicado?” com a implantação de um determinado sistema de I.A.? Deveria tal sistema sequer ser desenvolvido e implantado?

Acreditamos que seja necessário tomar um passo atrás, e repensar a ideologia dominante do “move fast and break things”, que foi imposta pelas empresas do Vale do Silício e tem tido consequências nefastas tanto para a justiça socioambiental, como para democracias de todo o mundo. Andar com cautela e prever riscos para evitar danos tem se mostrado uma visão mais coerente com a defesa de nossos direitos fundamentais. Ou seja, enquanto não se provar que não está causando danos, principalmente se os alvos dos sistemas propostos são comunidades marginalizadas, muito provavelmente danos estão sendo causados e desigualdades históricas estão sendo automatizadas.

Para tal, com base em uma ampla revisão bibliográfica e em uma análise fundamentada em casos mapeados na América Latina, o que se segue é um esquema analítico que tem sido testada em uma série de reuniões e oficinas do projeto notmy.ai, realizadas com organizações preocupadas com a justiça social e equidade de gênero em suas interseccionalidades. O quadro analítico abaixo está em constante evolução e visa ultrapassar os discursos rasos de uma I.A. ética ou centrada em pessoas (que pessoas?) e busque ser uma estrutura holística que considere as relações de poder a fim de questionar a ideia de implantar sistemas de I.A. em vários campos do setor público.

Esperamos que esse esquema analítico também sirva de inspiração para a Comissão de Juristas do Senado na elaboração de minuta de Projetos de Lei substitutivo que verse sobre o uso de I.A no Brasil e seus princípios, particularmente no que tange os impactos da inteligência artificial, direitos e deveres.

Para ler a nota técnica na íntegra clica aqui!

E vale continuar de olho no trabalho da Comissão de Juristas, atualizações de prazos e agenda de trabalho são divulgadas aqui.

Assista também nossa participação em audiência pública no Senado.

Coding Rights lança Nota Técnica sobre impactos da Inteligência Artificial no setor público do… was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

Quatro dias antes de reunião com o bilionário, o ministério nos respondeu, via Pedido de Acesso à Informação, que não tinha nenhuma agenda prevista nem acordo em negociação com Elon Musk e suas empresas

Há tempos estamos atentas aos movimentos de Elon Musk, afinal, ele é a personificação de tudo que não queremos ao vislumbrar futuros feministas. No dia 20 de maio, Musk foi acusado de pagar para que uma vítima de assédio sexual mantivesse silêncio sobre o caso e não prestasse queixa contra ele.

Depois dos encontros dele com o Ministro das Comunicações Fábio Faria no Texas (EUA), em novembro de 2021, resolvemos ir atrás de informações oficiais. Uma possível vinda de Musk ao Brasil em 2022 começou a ser divulgada e, entre outras questões, perguntamos ao Ministério das Comunicações, por meio de pedido oficial via Lei de Acesso à Informação, se haveria alguma reunião prevista com o bilionário. A primeira resposta veio vaga, entramos com recurso.

O Ministério das Comunicações respondeu ao recurso no dia 16 de maio, às 20h51, dizendo que não tinha quaisquer reuniões ou visitas agendadas entre Musk e o Ministério, assim como nenhum acordo em negociação com Elon Musk e suas empresas.

Mas quatro dias depois, no dia 20 de maio, o presidente Jair Bolsonaro participou de um evento organizado pelo Ministro das Comunicações cujo o foco de atenção era a presença do bilionário. Em entrevistas, Bolsonaro e Fábio Faria anunciaram uma possível parceria com Elon Musk no projeto Starlink. Segundo o governo, a ideia seria “conectar à internet 19 mil escolas na zona rural do país, além de monitorar a Amazônia.”

São duas informações importantes que não estão de acordo com a realidade. Denunciamos nosso estranhamento com o fato do Ministério ter dito que não tinha reuniões agendadas com Musk na mesma semana em que o empresário visitou o país e se encontrou com o Presidente e o Ministro. E, durante as visitas, ainda foram anunciadas as possíveis parcerias em projetos.

Esse acordo suspeito entre Bolsonaro, o Ministério das Comunicações e Musk será tema de audiência na Comissão de Fiscalização Financeira e Controle da Câmara dos Deputados. O autor da proposta, deputado Ivan Valente, citou na justificativa do requerimento as respostas duvidosas do Ministério aos pedidos de informação feitos pela Coding Rights, o fato tomou mais publicidade ao também ser noticiado pelo The Intercept Brasil:

“O Ministério das Comunicações de Fábio Faria, numa tentativa de esconder a reunião, bem como a parceria, afirmou taxativamente que não havia nenhum encontro agendado, nem acordo entre qualquer um de seus membros e Elon Musk. A tentativa ocorreu quando a pasta respondeu a um questionamento feito pela Coding Rights que atua em defesa dos direitos humanos na área tecnológica, via Lei de Acesso à Informação”.

Entre todas as consequências que essa “parceria” pode ter, ficam as dúvidas sobre quais interesses escusos estão em debate a ponto de colocar em xeque também a nossa confiança no sistema de transparência instituído pela Lei de Acesso à Informação.

Além disso, ainda aguardamos uma resposta oficial do Ministério das Comunicações explicando por que as respostas dadas anteriormente diferem da realidade.

Ministério das Comunicações fornece informações divergentes sobre encontro e acordo com Elon Musk was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

More than 50 state and local legislators from 13 states mobilized in the initiative called #SaiDaMinhaCara

Starting today, June 21, more than 50 legislators from different parties are presenting bills to ban facial recognition in public spaces. The #SaiDaMinhaCara initiative demonstrates a cross-party consensus on this technology’s invasive and discriminatory nature, mainly when applied under a purported narrative of safety. With this initiative, Brazil joins other countries in trying to restrict specific and potentially harmful and discriminatory uses of facial recognition.

Many jurisdictions outside of Brazil have passed laws limiting the use of this technology over the past couple of years. San Francisco, home to the big tech companies of Silicon Valley, was the first city in the United States to approve, in 2019, a ban on the use of facial recognition by police and other public agencies. In 2020, it was the turn of Boston and Cambridge, where Harvard and MIT, university hubs of technological debate, are located. In Europe, in October 2021, the European Parliament also voted in favor of the ban after an opinion from the European Data Protection Supervisor (EDPS).

Now, 12 states and the Federal District had bills presented in Brazil, either at the federal, state or municipal level. They are: Bahia, Ceará, Espírito Santo, Distrito Federal, Minas Gerais, Pará, Pernambuco, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina, Sergipe and São Paulo.

“It is always a challenge uniting parliamentarians from different political parties, legislative bodies (federal, state and municipal) and from different regions of Brazil, a country with continental dimensions and so unequal regionally. Throughout the articulation of #SaidaMinhaCara initiative, we specially sought on talking to parliamentarians who are active in state and municipal territories, guided by the concern of rooting the necessity of banning facial recognition and making this agenda more concrete to society”, said Vanessa Koetz, Coding Rights General Project Manager.

“This is an articulation that involved several political parties. Throughout this whole process it became even more evident that the use of facial recognition technologies is at different levels in Brazilian municipalities and states. We found situations that range from City Halls that imposed the use of facial recognition without any public debate, to concrete experiences of resistance to the use of this technology from civil society and social movements.”, said Jordana Almeida, Advocacy Strategist at Coding Rights.

There are several reasons for the ban. Studies have shown that these technologies operate with harmful biases, with particularly glaring margins of error when it comes to the faces of black people, especially if they are women or transgender people. The result is that if the police use this technology, they can wrongly identify someone, and that this wrongful identification inordinately impacts women, transgender people, and people of color.

“One of the main challenges in writing a bill to ban facial recognition is to uncover the fallacy of technological solutionism for public safety. It is important to recognize the underlying risks, particularly the reinforcement of pre-existing patterns of racial discrimination in the Brazilian criminal justice system” said Bianca Kremer, Data and Feminism fellow at Coding Rights.

In Brazil, since 2019, there has been an expansion of facial recognition implementation under the guise of public security. On the second day of testing this technology in Rio de Janeiro, a woman was arrested when she was mistaken for someone already incarcerated. In Piauí, a man was transferred to the Federal District and wrongly imprisoned for three days after a facial recognition system mistakenly flagged him as a wanted person. In Salvador, a 25-year-old with special needs was approached by police officers after being mistaken for a man wanted for robbery.

“Facial recognition has already demonstrated its dangers when under the power of police officers. People are wrongly detained, violent approaches happen, lack of knowledge to operate the system are some of the consequences we have seen. Facial recognition technologies reinforce the racist character of police action and give impetus to a mistaken idea that arresting more people represents an improvement in violence and crime rates”, said Pablo Nunes, Center for Studies on Security and Citizenship (CESeC) Adjunct Coordinator.

With the fear of being accused of fueling racism and further police violence, even more so after the murder of George Floyd, big companies like IBM, Microsoft, and Amazon no longer sell this kind of technology to state authorities and for policing purposes.

“Even tech giants, who as such hold huge databases and processing power, aren’t selling or sharing their own facial recognition software for policing purposes. Why would anyone consider that this tech is good enough to be spread across our streets? Not everything that is new or technological is good. We have already had many experiences that show that certain usages of particular technologies can be racist, transphobic, exclude people and become instruments of mass surveillance. Facial recognition deployed in public spaces is one example of that”, said Joana Varon, Coding Rights Executive Directress.

But many other companies are out there, making million-dollar contracts and deals with governments by selling a flawed technology that not only exacerbates inequalities but also costs the public sector dearly. In Bahia, the government announced the expansion of the facial recognition system to more than 70 municipalities in the countryside, costing R$ 665 million. Many of these expensive surveillance tools will be distributed in cities where resources for schools, hospitals, and access to justice services are lacking. Even when a company offers to “donate” cameras, it’s very expensive: staff costs are increased to use a technology that doesn’t work; the company profits by testing its algorithm with data from our faces; and the company can build ties with the public entity that can make it easier to win future bids on the subject.

It is not just a matter of improving the flawed and racist algorithm. Even if these technologies evolve to work perfectly, they still usher in a regime of mass surveillance in public spaces.

“Mass surveillance, besides seriously damaging people’s privacy, makes even more vulnerable the population that is not served by basic public policies such as health, education and employment”, said Debora Pio, Reseacher at Medialab/UFRJ and Rede Lavits.

In a perverse reversal of the presumption of innocence, all people exercising their fundamental right to come and go and participate in public life are now treated as suspects: filmed, watched, and potentially identified without consent. Therefore, the company ViaQuatro, which has the concession of the yellow line (4) of the São Paulo Metro, was ordered to pay R$100.000 when it was proven that there was capture of users’ image for commercial purposes without their consent. Recently, the court interrupted the installation of facial recognition system on lines blue (1), green (2) and red (3).

“In this case, the São Paulo’s Justice Court suspended facial recognition systems in the São Paulo Metro based on the argument that the system could affect citizens’ fundamental rights. The problems of this technology are multiple and the strategies to ban it must also be diverse. The legislative route emerges as a battlefront for restrictions on facial recognition uses in public spaces.” said Luã Cruz, Reseacher at the Brazilian Consumer Defense Institute (Idec). These are some of the concerns addressed by the #SaiDaMinhaCara initiative.

The #SaiDaMinhaCara initiative is sparkled by Coding Rights, MediaLab-UFRJ/Rede Lavits, the Brazilian Consumer Defense Institute (IDEC), and the Center for Studies on Security and Citizenship (CESeC), organizations specialized in technology, security, and human rights, which have engaged with parliamentarians around the issue. As a result, the first bills were filed on December 08, 2021, by State Representative Dani Monteiro — PSOL RJ (President of the Human Rights Commission of the Legislative Assembly of the State of Rio de Janeiro) and Councilman Reimont — PT (President of the Monitoring Commission on the issue of Smart Cities, in the Municipal Council of Rio de Janeiro).

Parliamentarians who have already joined the initiative:
Benedita da Silva (House of Representatives); Hilton Coelho (Bahia State Legislative Assembly); Laina Pretas por Salvador (Salvador City Council); Renato Roseno (Ceará Legislative Assembly); Gabriel Aguiar (Fortaleza City Council); Fábio Félix (Federal District Legislative Chamber); Camila Valadão (Vitória City Council); Andreia de Jesus (Minas Gerais Legislative Assembly); Bella Gonçalves, Iza Lourença, Macaé Evaristo and Moara Sabóia (City Council of Contagem); Bia Caminha, Enfermeira Nazaré Lima, Lívia Duarte (Belém City Council); Juntas por Pernambuco (Pernambuco Legislative Assembly); Dani Portela, Ivan Moraes (Recife City Council); Carol Dartora (Curitiba City Council); Dani Monteiro (Rio de Janeiro State Legislative Assembly); Benny Briolly, Paulo Eduardo Gomes, Professor Tulio (Niterói City Council); Chico Alencar, Lindbergh Farias, Monica Benício, Paulo Pinheiro, Reimont, Tainá de Paula, Tarcísio Motta, Thaís Ferreira, Wiliam Siri (Rio de Janeiro City Council); Professor Josemar (São Gonçalo City Hall); Bruna Rodrigues, Daiana Santos, Karen Santos, Laura Sito , Matheus Gomes (Porto Alegre City Hall); Coletiva Bem Viver (Florianópolis City Hall); Iran Barbosa (Sergipe State Assembly); Linda Brasil (Aracaju City Hall); Guida Calixto (Campinas City Hall); Flávia Hellen (Paulista City Council); Débora Camilo (Santos City Council); Érica Malunguinho, Isa Penna, Leci Brandão (São Paulo Legislative Assembly); Celso Giannazi, Elaine do Quilombo Periférico, Erika Hilton, Luana Alves, Professor Toninho Vespoli, Silvia da Bancada Ativista (São Paulo City Council), Andreia de Jesus (State Representative of Minas Gerais), Mônica Francisco and Renata Souza (State Representative of Rio de Janeiro).

—
Translation: Thallita Lima
Revision: Laura Schwartz-Henderson

Legislators from all regions of Brazil present bills to ban facial recognition in public spaces was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

Parlamentares de todas as regiões do Brasil apresentam projetos de lei pelo banimento do reconhecimento facial em espaços públicos

Mais de 50 parlamentares atuando no legislativo municipal ou estadual de 13 estados estão mobilizados na iniciativa denominada #SaiDaMinhaCara

A partir de hoje, dia 21 de junho, mais de 50 parlamentares de diferentes partidos apresentam projetos de lei pelo banimento do reconhecimento facial em espaços públicos. A iniciativa #SaiDaMinhaCara demonstra um consenso multipartidário sobre o caráter invasivo e discriminatório dessa tecnologia, principalmente quando aplicada sob uma pretensa narrativa de segurança pública. Com essa “chuva” de projetos de leis, o Brasil entra na tendência mundial de restringir determinados usos de tal tecnologia.

Polos de desenvolvimento dessa tecnologia já eliminaram seu uso para fins de policiamento. São Francisco, onde estão localizadas as grandes empresas de tecnologia do Vale do Silício, foi a primeira cidade dos Estados Unidos a aprovar, em 2019, a proibição do uso do reconhecimento facial pela polícia e outras agências públicas. Em 2020, foi a vez de Boston e Cambridge, onde estão localizados Harvard e o MIT, polos universitários do debate tecnológico. Na Europa, em outubro de 2021, o Parlamento Europeu também votou a favor do banimento após manifestação da Autoridade Europeia para a Proteção de Dados (AEPD).

Agora, 12 estados e o Distrito Federal tiveram PLs apresentados no Brasil, seja no nível estadual ou municipal. São eles: Bahia, Ceará, Espírito Santo, Distrito Federal, Minas Gerais, Pará, Pernambuco, Paraná, Rio de Janeiro, Rio Grande do Sul, Santa Catarina, Sergipe e São Paulo.

“Essa é uma articulação que envolveu diversos partidos políticos e durante todo esse processo evidenciou-se ainda mais que o uso de tecnologias de reconhecimento facial se encontra em diferentes estágios ao longo dos municípios e estados brasileiros. Encontramos situações que vão desde Prefeituras que impuseram o uso da tecnologia sem qualquer debate público, até experiências concretas de resistência da sociedade civil e movimentos sociais ao uso dessa tecnologia”, relata Jordana Almeida, articuladora de advocacy da Coding Rights.

As razões para o banimento são várias. Estudos comprovam que essa tecnologia é falha e cheia de vieses, com margens de erro particularmente gritantes quando se trata de rostos de pessoas negras, principalmente se forem mulheres ou pessoas trans. O resultado disso é que, se essa tecnologia é utilizada pela polícia e identifica erroneamente alguém, torna-se bem difícil argumentar contra uma máquina que você é você e não alguém procurado pela Justiça.

“Um dos principais desafios na redação de um Projeto de Lei pelo banimento do reconhecimento facial é descortinar a falácia do solucionismo tecnológico para a segurança pública. É importante reconhecer os riscos que lhes são subjacentes, sobretudo o reforço aos padrões de discriminação racial preexistentes no sistema de justiça criminal brasileiro.” afirma Bianca Kremer, fellow da Coding Rights.

No Brasil, desde 2019 houve uma expansão da implementação do reconhecimento facial sob pretexto da segurança pública. No segundo dia de teste dessa tecnologia no Rio de Janeiro, uma mulher foi detida ao ser confundida com uma mulher que já estava em privação de liberdade. No Piauí, um homem foi transferido para o DF e preso injustamente por três dias após um sistema de reconhecimento facial apontá-lo erroneamente como pessoa procurada. Em Salvador, um rapaz de 25 anos com necessidades especiais foi abordado por policiais após ser confundido com um homem procurado por assalto.

“O reconhecimento facial já tem demonstrado seus perigos nas mãos de policiais. Pessoas são detidas de forma equivocada, abordagens violentas acontecem, falta de conhecimento para operar o sistema são algumas das consequências que temos visto. As tecnologias de reconhecimento facial só reforçam o caráter racista da ação policial e dão fôlego a uma ideia equivocada de que prender mais pessoas representa uma melhoria nos índices de violência e criminalidade”, aponta Pablo Nunes, coordenador adjunto do Centro de Estudos de Segurança e Cidadania (CESeC).

Com o temor de serem acusadas de alimentar racismo e mais violência policial, ainda mais depois do assassinato de George Floyd, grandes empresas como IBM, Microsoft e Amazon já não vendem esse tipo de tecnologia para autoridades estatais e para fins de policiamento.

“Se nem as gigantes de tecnologia que, como tal, detém grandes bases de dados e poder de processamento enormes, estão vendendo esses softwares para fins de policiamento, porque deveríamos achar que espalhar isso pelas nossas ruas é uma boa ideia? Nem tudo que é novo ou tecnológico é bom. Já tivemos muitas experiências que demonstram que tecnologias podem ser racistas, excluir pessoas e se tornar instrumentos de vigilância em massa, o reconhecimento facial é uma delas”, afirma Joana Varon, Diretora Executiva da Coding Rights.

Mas muitas outras empresas estão por aí, fazendo vendas milionárias e acordos com governos. Uma tecnologia falha e imprecisa que custa caro para o setor público. Na Bahia, anunciou-se a expansão do sistema de reconhecimento facial para mais de 70 municípios do interior, com o gasto de R$ 665 milhões de reais. Em algumas cidades que “ganharão” as câmeras, faltam escolas, hospitais, serviços de acesso à Justiça, e outros. Mesmo quando uma empresa se oferece para “doar” câmeras, o barato sai caro: aumentam-se gastos com pessoal para usar uma tecnologia que não funciona; a empresa lucra testando seu algoritmo com dados da nossa cara e acaba criando laços com o ente público que podem facilitar ganhar licitações futuras sobre o tema.

Não se trata apenas de aprimorar os algoritmos falhos com tendências racistas. Mesmo que essas tecnologias evoluam para funcionar perfeitamente, outra crítica recorrente à implementação desses sistemas em espaços públicos é a vigilância em massa.

“Vigilância em massa, além de ferir gravemente a privacidade das pessoas, ainda deixa mais vulnerável a população que não é atendida por políticas públicas básicas, como saúde, educação e emprego”, afirma Debora Pio, pesquisadora do Medialab/UFRJ na Rede Lavits.

Ou seja, em uma perversa inversão da presunção de inocência, todas as pessoas no exercício de seu direito fundamental de ir e vir passam a ser tratadas como suspeitas, filmadas, vigiadas e potencialmente identificadas, sem consentimento. Não por menos que a empresa ViaQuatro, que tem a concessão da linha 4-amarela do Metrô de São Paulo, foi condenada a pagar 100 mil reais quando comprovado que houve captação da imagem de usuários, sem o seu consentimento para fins comerciais e, mais recentemente, a Justiça interrompeu a instalação do sistema nas linhas 1-azul, 2-verde e 3-vermelha.

“Neste caso, o TJSP suspendeu o sistema de reconhecimento facial no Metrô de São Paulo por entender que o sistema poderia atingir direitos fundamentais dos cidadãos. Os problemas dessa tecnologia são múltiplos, as estratégias para baní-las também devem ser, e a via legislativa surge como mais um front de batalha pelas restrições no uso do reconhecimento facial em espaços públicos.” cita Luã Cruz, pesquisador do Instituto Brasileiro de Defesa do Consumidor (Idec). Essas são algumas das preocupações e estratégias da #SaiDaMinhaCara.

A iniciativa #SaiDaMinhaCara é estimulada pela Coding Rights, Instituto Brasileiro de Defesa do Consumidor (IDEC), Centro de Estudos de Segurança e Cidadania — (CESeC) e MediaLab-UFRJ/Rede Lavits, organizações especialistas em temas de tecnologia, segurança e direitos humanos que mobilizaram parlamentares em torno da pauta. Os primeiros projetos de lei foram protocolados em 08 de dezembro de 2021 pela Deputada Estadual Dani Monteiro — PSOL RJ (Presidente da Comissão de Direitos Humanos da Assembleia Legislativa do Estado do Rio de Janeiro) e em 27 de setembro de 2021 pelo Vereador Reimont — PT (Presidente da Comissão de Monitoramento no Tema Cidades Inteligentes, na Câmara Municipal do Rio de Janeiro).

Já aderiram à iniciativa:

Benedita da Silva (Câmara dos Deputados); Hilton Coelho (Assembleia Legislativa do Estado da Bahia); Laina Pretas por Salvador (Câmara Municipal de Salvador); Renato Roseno (Assembleia Legislativa do Ceará); Gabriel Aguiar (Câmara Municipal de Fortaleza), Fábio Félix (Câmara Legislativa do Distrito Federal); Camila Valadão (Câmara Municipal de Vitória); Andreia de Jesus (Assembleia Legislativa de Minas Gerais); Bella Gonçalves, Iza Lourença, Macaé Evaristo (Câmara Municipal de Belo Horizonte); Moara Sabóia (Câmara Municipal de Contagem), Bia Caminha, Enfermeira Nazaré Lima, Lívia Duarte (Câmara Municipal de Belém); Juntas por Pernambuco (Assembleia Legislativa de Pernambuco); Dani Portela, Ivan Moraes (Câmara Municipal de Recife); Carol Dartora (Câmara Municipal de Curitiba); Dani Monteiro, Mônica Francisco, Renata Souza (Assembleia Legislativa do Estado do Rio de Janeiro); Benny Briolly, Paulo Eduardo Gomes, Professor Tulio (Câmara Municipal de Niterói); Chico Alencar, Lindbergh Farias, Monica Benício, Paulo Pinheiro, Reimont, Tainá de Paula, Tarcísio Motta, Thaís Ferreira, Wiliam Siri (Câmara Municipal do Rio de Janeiro); Professor Josemar (Câmara Municipal de São Gonçalo); Bruna Rodrigues, Daiana Santos, Karen Santos, Laura Sito , Matheus Gomes (Câmara Municipal de Porto Alegre); Coletiva Bem Viver (Câmara Municipal de Florianópolis); Iran Barbosa (Assembleia Estadual de Sergipe); Linda Brasil (Câmara Municipal de Aracaju); Guida Calixto (Câmara Municipal de Campinas); Flávia Hellen (Câmara Municipal de Paulista); Débora Camilo (Câmara Municipal de Santos); Érica Malunguinho, Isa Penna, Leci Brandão (Assembleia Legislativa de São Paulo); Celso Giannazi, Elaine do Quilombo Periférico, Erika Hilton, Luana Alves, Professor Toninho Vespoli, Silvia da Bancada Ativista (Câmara Municipal de São Paulo).

Parlamentares de todas as regiões do Brasil apresentam projetos de lei pelo banimento do… was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

Estudo realizado pela Coding Rights analisou a implementação do Whatsapp Payment no Brasil. O país é o segundo no mundo onde a empresa testa o serviço(Colonialismo de dados?). O caso chama atenção porque mostra a necessidade de cooperação entre autoridades regulatórias para poder lidar com monopólio das Big Tech. Proteção de dados não é suficiente, é preciso somar os instrumentos de lei de concorrência, direito do consumidor, leis setoriais, ou seja, ampla complexidade.

Por Vanessa Koetz, Bianca Kremer e Joana Varon

Em 30 de março de 2021, o Banco Central do Brasil (BCB) aprovou a entrada do Whatsapp Pay no país. Um sistema de transferência de recursos por meio do próprio Whatsapp sem pagamento de taxas bancárias. O foco são pequenos pagamentos, sendo que são permitidas até 20 transações por dia de até R$ 1.000 por transação, com limite mensal de R$ 5.000. Inclusive, o governo do Estado de São Paulo chegou a anunciar que passageiros de metrô e ônibus poderiam pagar a passagem do transporte público via Whatsapp.¹

A funcionalidade já tinha sido lançada em junho de 2020, mas foi suspensa por tempo indeterminado poucos dias depois, a mando do Banco Central do Brasil e do Conselho Administrativo de Defesa Econômica (Cade). A empresa foi ameaçada de multa de R$500.000 por dia caso não suspendesse o serviço. O que mudou desde então?

No segundo semestre de 2021, cerca de 120 milhões de pessoas, 60% da população, usavam o Whatsapp como aplicativo de mensagens no país.² O Whatsapp já é o único app de chat no país que tem acordos de zero-rating com as operadoras de telefonia, ou seja, pode ser acessado sem cobrança pelo tráfego de dados para acessar o app, sem custo no consumo da franquia dos planos de conexão de internet. Razão que contribui diretamente para o monopólio de mercado desse app e que limita o acesso a outros apps de mensageria, principalmente por parte de camadas mais empobrecidas da população, que dependem do acesso à rede por planos pré-pagos e com planos de dados menores. Agora, o Brasil é o segundo país a testar esse serviço de pagamentos. O primeiro foi a Índia, país que com mais de 400 milhões³ de pessoas usando o app em 2021, é onde ele tem mais consumidores no mundo. Não por acaso, os testes-piloto são implementados em enormes mercados do app no mundo situados em países distantes da sede da empresa. Para além de cunharem o termo “usuário” para denominar quem utiliza um determinado software -, denotando o desejo das empresas do Vale do Silício de fomentar vício, adição e dependência no uso de seus produtos -, no lugar de nos tratar simplesmente como consumidores e consumidoras, palavra que denota direitos, ao que tudo indica, como cidadãs e cidadãos de países com menor poder de aplicação da lei sobre as práticas dessas empresas do que tem seu país de origem, também somos vistos como cobaias para ajudar ampliar o monopólio do Facebook, agora denominado Meta, assim como as ambições megalomaníacas da empresa.

Não é a primeira vez que a empresa trata pessoas de países fora do Norte Global e da periferia da economia mundial de maneira diferente. Recentes alterações na política de privacidade do app demonstraram de maneira tangível as assimetrias de poder na geopolítica da proteção de dados, uma vez que a mudança não se aplicava na Europa, mas nos demais países visava, entre outras coisas, restringir o acesso de pessoas que não aderirem à nova política, que incluía explicitar o consentimento para o compartilhamento de dados do app com o Facebook. No Brasil, a mudança em sua política de privacidade foi questionada pelo Conselho Administrativo de Defesa Econômica (Cade), pelo Ministério Público Federal (MPF), pela Autoridade Nacional de Proteção de Dados (ANPD) e pela Secretaria Nacional do Consumidor (Senacon) que, entre outras recomendações, solicitaram o adiamento da mudança, programada para março de 2021 e algumas restrições nas mudanças.

Na verdade o Whatsapp Pay funciona via Facebook Pay, ou seja, para a ativação desta funcionalidade, torna-se necessário justamente o compartilhamento de dados cujo consentimento está sendo questionado pela mudança de política de privacidade. E, com isso, o Whatsapp/Facebook, com todo seu histórico de violação de proteção de dados pessoais, passam a ter acesso ao nosso CPF, dados bancários, nossas transações bancárias associadas à nossa lista de contatos, além de número de celular e pode cruzar esses dados com nossos usos de redes sociais e de localização. Nunca um banco ou operadora de cartão de crédito teve tanta informação sobre nós. Estamos fornecendo tudo isso para uma empresa cujo modelo de negócio é a publicidade.

Como funciona tecnicamente esse serviço? Como tem sido a implementação desse sistema no Brasil? O que mudou da decisão inicial do CADE para cá? Esse novo serviço serve como forma de se contrapor à indicação de órgãos reguladores contra alterações na política de privacidade? Que questões de segurança emergem com o serviço? Muito mais do que a análise de mais um serviço da empresa, a questão de fundo é que, pouco a pouco, para além de deter uma situação de monopólio de meios de comunicação digitais, o Facebook, agora Meta, parece visar expandir seus domínios para configurar um monopólio ainda mais amplo, agora focado em meios de pagamento, fazendo frente até a grandes bancos, principalmente se considerarmos o poder que a empresa tem no que diz respeito ao acesso a nossas informações e hábitos. Existem respostas possíveis no Direito Concorrencial que dariam subsídio à proteção de Direitos Humanos nos meios digitais? E, para além de regras de concorrência, quais os limites são possíveis de se impor ao capitalismo de plataforma e às práticas de colonialismo de dados dessas grandes empresas de tecnologia? Quem fica mais vulnerável a essas práticas? Quem lucra? Quem perde nesse arranjo produtivo neoliberal e global das Big Tech? Mesmo se esse serviço não deslanchar como espera o Facebook/Meta, quais limites foram impostos para uma empreitada semelhante?

Metodologia

Essas são apenas algumas das várias perguntas que uma iniciativa como essa faz emergir e sobre as quais este estudo pretendeu se debruçar.

Para responder a essas questões, a metodologia desenvolvida abrangeu desk research, análise dos autos do processo CADE nº 8700.002871/2020–34⁴, análise dos termos de serviço e políticas de privacidade dos serviços Facebook/Whatsapp, análise de processo de pedido de acesso à informação elaborado pela Coding Rights ao Banco Central do Brasil e realização de entrevistas focais com atores chave para entendimento do funcionamento e dos impactos potenciais da implementação desse sistema.

De uma perspectiva feminista, o estudo começa com uma contextualização tecnopolítica do WhatsApp, do Facebook (Meta) e do lançamento do WhatsApp Payment no Brasil, dominando mercados e subjetividades e se consolidando o grupo Meta como monopólio no mercado de apps de mensageria em busca de uma nova expansão de fronteira, a entrada no setor de serviços financeiros. Em seguida, passamos a identificar o cenário turbulento do lançamento da ferramenta de pagamentos do Whatsapp no Brasil, o processo de autorização da Facebook Pagamentos do Brasil como instituição Iniciadora de Transação de Pagamento junto ao Banco Central do Brasil e a forma de funcionamento do WhatsApp Payment, seus termos de serviço e políticas de privacidade. Sob uma perspectiva decolonial enfatizamos o uso dos países do Sul Global, como Brasil, Quênia e Índia como laboratórios de implementação de políticas monopolistas da big tech. Por fim, sob a perspectiva do direito concorrencial, realizamos uma análise sobre o processo de apuração de ato de concentração instaurado pelo Cade e da legislação financeira adequada ao serviço de iniciação de transação de pagamento.

O que encontramos?

Os novos modelos de negócio provenientes das grandes empresas de tecnologia alteram sobremaneira o escopo de análise de autoridades concorrenciais como o CADE e, no caso, das big tech no mercado de pagamentos, dos reguladores do sistema financeiro, como o Banco Central do Brasil.

Enquanto os bancos e fintechs são criados para operar prioritariamente os serviços financeiros, esses serviços são uma pequena parcela do que oferecem as big techs. Mas a natureza da atividade de iniciação de transação de pagamento, per si, é de uma atividade que envolve essencialmente transmissão de dados e informações de transação, atividades que estão no coração do modelo de negócios dessas empresas.

Ainda que o discurso da eficiência do big data seja questionável, é uma narrativa atrativa para investimentos e consumidores. E não se pode negar que a grande dimensão das bases de dados que as big tech detêm aumenta seu poder competitivo na sociedade da informação e as posiciona em lugar único diante de iniciativas menores. A entrada dessas empresas no mercado de pagamentos e em outros elementos do sistema financeiro contribui com esse ciclo repetitivo (loop) de geração de dados. Se antes o Facebook, por meio de seus diversos produtos, coletava dados da rede social dos usuários, agora, passa a coletar também dados financeiros. A possibilidade de cruzamento de diversas bases pertencentes à empresas, com vistas a ampliar a sua base de consumidores e criar novos modelos de negócio é enorme — por ex., há de se perguntar o que impede a empresa de oferecer um serviço de crédito a partir de um sistema de pontuação ultra rápido que entrelace a base massiva de dados de redes sociais, com o fluxo informacional coletado nas transações financeiras? Na China, para além de redes sociais, o WeChat já domina mercados de pagamentos, por meio do WeChat Pay, juntamente com a Ali Pay, braço financeiro da Alibaba, versão chinesa das concorrentes ebay e Amazon.

No Brasil, o Whatsapp Pay, por enquanto, ficou limitado a transações entre pessoas e não entre pessoas e negócios. Ainda assim, mesmo que não saibamos se o Whatsapp quer se tornar um “super app”, como o chinês WeChat, é possível afirmar que a funcionalidade do Whatsapp Pay é mais um passo para aumentar o monopólio de dados que o Facebook detém sobre Brasil e Índia.

A entrada dessa big tech nos serviços financeiros sugere possibilidades de maior inclusão financeira, já que o Whatsapp tem enorme penetração e chegam a lugares e públicos que os bancos tradicionais não chegaram (ou talvez não quiseram chegar). Inclusão financeira, dentre outros, significa acesso a oportunidades de crédito e educação e gestão financeira para o uso consciente de recursos, por ex., e contribui para a inclusão social, especialmente, em contexto de miséria que marca países como Brasil, Índia e Quênia, em que milhões de pessoas não cumprem requisitos para abrir uma conta no banco que exige diversos documentos. Contudo, devemos nos perguntar: a que custo?

Ao mesmo tempo em que poderia facilitar a inclusão nos serviços financeiros, a Meta/Facebook aumenta ainda mais sua consolidação no mercado de dados e a exploração desse enorme poder de mercado pode resultar em práticas abusivas com favorecimento de seus próprios serviços e produtos, imposição de dificuldades e barreiras para a entrada de outros competidores e, a partir de sua hegemonia no mercado, a diminuição da qualidade de seus serviços — como as interrupções na prestação de serviço, que já são notadas no Brasil. Tornam-se, portanto, um monopólio de dados.

A soma da coleta de dados financeiros, com a massiva base de dados de redes sociais e a gigantesca base de usuários que possui o Facebook, aliado à inteligência artificial e ao aprendizado de máquina, aumentam o poder preditivo dos sistemas dessa empresa e podem interferir na modulação de comportamento do usuário/consumidor — como já foi constatada a prática nas eleições norte-americanas.⁵

Há uma lacuna regulatória sobre a entrada dessas empresas no Sistema Financeiro Nacional. As big techs não são bancos ou fintechs, que têm sua principal e quase exclusiva atividade no mercado financeiro. Elas detêm outras formas de fazer negócios que é baseado em coleta massiva de dados. O foco tradicional na competição relacionado a um único mercado, como vimos, é insatisfatório. Primeiramente, é necessário nortear as ações a partir da perspectiva de que sistema financeiro é infraestrutura de interesse público e essencial e atua para a promoção de inclusão financeira e social. Em segundo lugar, é necessário deixar que haja apenas uma abordagem econômica e que haja integração regulatória e fiscalizatória entre os campos de competição, de sistema financeiro, de privacidade e proteção de dados e defesa do consumidor.

Além disso, não existe uma solução única universal para a questão, afinal as big techs não estão em apenas um país e, sem dúvida, se faz necessária uma coordenação nacional e internacional das atividades de formulação, regulação e fiscalização relacionadas às big techs no mercado financeiro, especialmente entre os países fora do eixo do Vale do Silício.

A economia digital, como um todo, tem trazido desafios para o controle de notificação de atos de concentração, trazendo ramos considerados novos para o direito até então, sobretudo aqueles relacionados ao mercado digital.⁶

Muitas vezes, empresas de tecnologia possuem baixos faturamentos, e sequer atingem os critérios legais para tornarem as operações de notificação obrigatória à autoridade antitruste. No caso do WhatsApp, trata-se de um aplicativo que não veicula anúncios (ADs) e é “gratuito” para os usuários no geral (à exceção de contas comerciais com os novos Termos de Serviço), mas que possui ativos intangíveis com alta perspectiva de geração futura de caixa e precificação subjetiva.

A operação de compra do WhatsApp pelo Facebook em 2018 foi um grande exemplo de como o enfoque das autoridades concorrenciais em eficiência alocativa de recursos, de forma estrita, se mostra insuficiente para lidar com os desafios de poder econômico que as grandes plataformas digitais, hoje, apresentam. Como o WhatsApp não atingiu os critérios de faturamento no ano de 2017, a operação⁷ quase escapou à análise da Comissão Europeia, não fosse o seu enquadramento nos critérios de notificação obrigatória de três dos seus Estados-Membros.

Dos pontos concorrenciais abordados pela Comissão Europeia,⁸ houve especial enfoque no intercâmbio de dados coletados entre as empresas, o que não ocorreu no caso brasileiro da APAC do CADE entre WhatsApp e Cielo, cujo epicentro de análise foi a inexistência de empreendimento comum para exploração de atividade econômica entre as partes.

É importante mencionar também que muitas das informações solicitadas pela Superintendência Geral no caso brasileiro foram de cunho sigiloso, tais como a relação de todas as empresas integrantes dos dois grupos econômicos, seus faturamentos brutos e a soma dos faturamentos das empresas pertencentes ao grupo Meta/ Facebook. E essa é uma tendência bastante presente nas análises do CADE, com observância a uma falta de transparência expressiva em relação ao que motivaria evitar a publicidade de informações de interesse público.

Ademais, os critérios de notificação obrigatória no Brasil são previstos no art. 77, §7º, da Lei 12.529/2011 (Lei de Defesa da Concorrência), artigo 88, §7º da Lei de Defesa da Concorrência que faculta ao CADE requerer, extraordinariamente, a submissão de qualquer operação à sua análise. Mesmo aquelas que não atinjam os parâmetros de faturamento mas, ainda assim, possam prejudicar a dinâmica competitiva do mercado.

Aliado a isso, o art. 173, §4º, da Constituição Federal estabelece que a lei reprimirá o abuso de poder econômico que vise a dominação de mercados, a eliminação da concorrência e o aumento arbitrário de lucros. De acordo com Bruno Braz de Castro,⁹ esses termos denotam uma preocupação com a manutenção da estrutura da concorrência e o combate a abusos exploratórios. A Constituição é precisa em estabelecer que o princípio da livre concorrência convive harmonicamente — e horizontalmente — com outros princípios constitucionais da ordem econômica, tais como redução da desigualdade social, função social da propriedade e tratamento favorecido à pequena empresa. Razão pela qual a finalidade do direito da concorrência brasileiro deve ser legitimada sob o marco da justiça social, em prol de objetivos como o desenvolvimento econômico e a redução das desigualdades sociais e regionais.¹⁰

A defesa da concorrência é também um dos instrumentos, não o único, para assegurar uma existência digna, conforme os ditames da justiça social,¹¹ razão pela qual os mercados virtuais de plataforma precisam estar no radar de autoridades como o CADE e, no caso, por se tratar de mercados de pagamentos, o Banco Central do Brasil. São frequentes as políticas de fusões e aquisições, sobretudo por parte de Big Techs, com a incorporação predatória de startups com potencial de ameaça à sua posição dominante. Se o Meta/ Facebook é hoje uma mídia social considerada um dos gigantes da indústria de tecnologia, isso se dá muito por força da sua postura de dominação das ameaças competitivas emergentes, como é o caso da aquisição do WhatsApp e outras empresas do grupo, a exemplo do Instagram. Autoridades concorrenciais alheias a esse panorama econômico, social e político empreendido pelo capitalismo de plataforma, são verdadeiros catalisadores desse processo.

As posições dominantes em mercados virtuais de plataformas demandam uma enérgica atenção antitruste, e o direito da concorrência precisa ir além de questões relacionadas à eficiência alocativa de recursos para dar conta desses novos desafios. É necessário que ele se volte à efetividade do processo competitivo como um todo pois, no contexto das plataformas digitais, uma concorrência bem-sucedida pelo mercado tende a não enfrentar uma concorrência substancial no mercado.¹²

Nesse sentido, uma parceria como WhatsApp e Cielo pode não apresentar, à primeira vista, a presença de um empreendimento comum de mesma atividade econômica, ou exclusividade contratual. Mas a concentração de poder econômico ganha outros contornos à medida que se reconhecem os efeitos exclusionários empreendidos pelo Meta/Facebook no contexto de sua hegemonia de mercado. Existe efetivamente algum concorrente real para uma empresa como o Meta/ Facebook, no cenário global, com quem a Cielo poderá fechar acordo de parceria de maneira vantajosa e verdadeiramente competitiva? Existe algum serviço de mensageria semelhante ao WhatsApp no cenário nacional, com o mesmo — ou similar — alcance e relevância?

O CADE, enquanto importante autarquia estratégica para manutenção do Sistema Brasileiro de Defesa da Concorrência, precisa desferir atenção redobrada ao abuso de poder de mercado empreendido por plataformas digitais que, além da absorverem negócios rivais, empreendem poder regulatório de achatamento da lucratividade de determinados produtos/ serviços como estratégia de manutenção de sua posição de liderança.¹³

Os princípios constitucionais da ordem econômica não apenas permitem, como se fundamentam na necessidade de olhares sóbrios sobre a realidade brasileira. Para tanto, é fundamental a ponderação detida sobre o monopólio de dados no contexto concorrencial, e os obstáculos à contestabilidade dessa hegemonia de mercado conquistada por Meta/ Facebook que se estende ao mercado de meios de pagamentos digitais, por meio do WhatsApp Pay. Não é por menos que a Lei Geral de Proteção de Dados Pessoais (Lei nº 13.709/2018) prevê em seu artigo 2, inciso VI, que “a livre iniciativa, a livre concorrência e a defesa do consumidor” são fundamentos da proteção de dados pessoais.

Sugere-se a adoção de uma postura crítica em relação ao pretenso discurso de neutralidade que circunda o critério da eficiência econômica, amplamente utilizado nas análises concorrenciais no Brasil. Decisões como a da APAC do CADE no caso WhatsApp Pay possuem uma roupagem aparentemente científica, objetiva e puramente técnica que, na verdade, invisibilizam o aspecto ideológico neoliberal que fundamenta o próprio conceito de efeitos anticompetitivos para o CADE, a serem levados em consideração para suspensão a operação em caráter cautelar.

Recomendações

Dada a complexidade do tema, que envolve um modelo de negócio cujo foco é fluxo informacional dentro do sistema financeiro há necessidade de abordagem multissetorial para a análise da entrada das big techs no sistema financeiro, que abranja além do direito do sistema financeiro, ao menos, o direito concorrencial, o direito consumerista, e direitos relacionados à privacidade e à proteção de dados.

Dentre algumas das recomendações centrais inferidas a partir das informações obtidas no presente estudo, algumas ganham maior destaque. São elas:

1. Reforço do CADE, enquanto autoridade brasileira da concorrência, no trato com as grandes plataformas digitais. A Alemanha apresentou um exemplo interessante em novembro de 2021, quando propôs o Acordo da Coalizão Alemã sobre os Direitos Digitais (German Coalition Agreement on Digital Rights). Os integrantes expressaram um forte apoio à regulamentação de plataformas pela União Europeia, adotando uma posição firme em favor da restrição do uso de tecnologias de vigilância pelo governo. Dentre as especificidades, houve a sugestão de reforço ao Bundeskartellamt (autoridade da concorrência alemã) perante plataformas digitais e de direito do consumidor. A atualização das leis de competição para enfrentar os desafios trazidos pela nova economia digital, sobretudo em relação ao processo de plataformização nas relações econômicas, é um ponto central para a proteção dos direitos fundamentais dos usuários e consumidores no ambiente digital. Nesse sentido, é importante observar o processo europeu acerca da aprovação do Digital Markets Act (Lei dos Mercados Digitais) que pretende regulamentar a atuação das big techs, impondo limites à sua atuação, bem como reprimir práticas anticompetitivas.¹⁴
2. Necessidade de cooperação entre autoridades, com elaboração de termos de cooperação, especialmente entre Banco Central do Brasil (BCB) e Autoridade Nacional de Proteção de Dados (ANPD). O acordo de cooperação técnica firmado entre CADE e ANPD em 2021 teve como objetivo central a cooperação interinstitucional em casos de infração à ordem econômica envolvendo o uso e compartilhamento de dados pessoais. No cenário da economia digital e do capitalismo de plataforma, cada vez mais as Big Techs têm tirado proveito da reserva de mercado adquirida durante longos períodos sem a presença de um olhar mais detido por parte das autoridades sobre a necessidade de regulação das suas atividades. Mais do que nunca, a promoção conjunta e coordenada de autoridades como ANPD e Bacen se mostra de imperiosa relevância para a efetiva proteção dos direitos fundamentais dos usuários, agora no contexto do Open Banking. Mais precisamente, sobre os critérios a serem adotados para atuação como meio de pagamentos digitais. Temos muitos desafios a enfrentar nesse campo. Isto porque, observamos uma intensa robustez por parte do Bacen no campo da regulação da ordem econômica. Enquanto, por outro lado, temos uma sociedade ainda caminhando para a construção de uma cultura de proteção de dados no Brasil, com uma Autoridade Nacional recém estruturada para dar conta de inúmeras adversidades a porvir. Nesse sentido, é importante observar, a exemplo do termo de cooperação técnica entre ANPD e CADE que, cada vez mais, será necessária a promoção conjunta e coordenada de ações entre as instituições brasileiras para o combate a atividades lesivas à ordem econômica, sobretudo diante dos desafios impostos pela economia digital.
3. Necessidade de cooperação internacional entre agentes reguladores e fiscalizadores, especialmente dos países do Sul Global, a fim de contrabalancear o monopólio internacional. As autoridades brasileiras têm adotado uma concepção bastante reducionista sobre o que, de fato, configura a existência de monopólio e prejuízo à concorrência no contexto da economia digital, ignorando considerações sobre o capitalismo de plataforma e o colonialismo de dados como importantes motores de pulsão e perpetuação da posição de liderança desempenhada pelas Big Techs no mercado de tecnologia. No contexto de uma sociedade hiperconectada e global, é importante observar que a distribuição de produtos e serviços digitais não se dá de forma desarrazoada. O que se observa, por exemplo, a partir das discrepâncias na mudança dos termos de serviço do WhatsApp no Brasil/ Índia, perante a situação dos países integrantes da UE. Os primeiros tiveram condições muito mais permissivas e abusivas no fornecimento do produto/serviço em comparação aos demais. Existem condições que precisam ser levadas em consideração quando pensamos nos impactos dos serviços fornecidos aos países do sul-global pelas Big Techs, que são empresas de poder de mercado consolidado em escala mundial. Eles detêm uma posição histórica herdada de vulnerabilidade e subserviência econômica e tecnológica perante os países do norte global. Questões de cunho prático como acesso à internet, conectividade, inclusão, e as assimetrias de gênero e suas interseccionalidades não são triviais, e ganham outros contornos no contexto no monopólio internacional, que se dá na Economia muito a partir dos dados pessoais, pois são o insumo das atividades dessas empresas. O colonialismo de dados, portanto, carece de olhares detidos sobre o contexto geopolítico de países em situação de vulnerabilidade social como o Brasil, razão pela qual elevar tais discussões no âmbito da cooperação internacional pode fortalecer sobremaneira a atuação dos agentes reguladores e fiscalizadores no Brasil e no mundo, e permitir uma efetiva agenda de proteção aos direitos humanos, direitos fundamentais e direitos digitais nesse tortuoso, atual e, mais do que nunca, necessário debate sobre as imbricações entre a oferta de serviços plataformas digitais e serviços bancários.

O estudo completo está disponível no link: https://codingrights.org/docs/ZapPay_monopolio_dados.pdf

Um resumo da pesquisa em inglês está disponível em: https://medium.com/codingrights/whatsapp-pay-the-next-frontier-for-the-expansion-of-data-monopoly-360139de44ad

Ilustração: Clarote para a Coding Rights

Assista o evento de lançamento da pesquisa aqui:

What about online payment architecture and Big Tech? Data protection and competition

Notas de Rodapé

¹ Vai de Pix! Usuários de SP e Salvador já podem pagar o transporte público digitalmente (Pay with Pix! SP and Salvador users can now pay for public transportation digitally). Available at: https://www.tudocelular.com/tech/noticias/n175288/transporte-publico-comprar-passagens-via-whatsapp.html. Acesso em 20.12.21.

² Números atuais do WhatsApp no Brasil e o potencial do app para negócios https://www.messengerpeople.com/pt-br/whatsapp-no-brasil/#:~:text=Com%20quase%20120%20milh%C3%B5es%20de,meio%20predileto%20para%20mandar%20mensagens. Acesso em 20.03.22

³ WhatsApp may soon touch 500 million users in India despite new privacy policy, claims report. Available at: https://www.indiatoday.in/technology/news/story/whatsapp-may-soon-touch-500-million-users-in-india-despite-new-privacy-policy-claims-report-1758344-2021-01-12. Acesso em 20.12.21.

⁴ Autos do processo CADE nº 8700.002871/2020–34. Disponível em: http://antigo.cade.gov.br/noticias/cade-suspende-operacao-entre-facebook-e-cielo-que-pretende-viabilizar-pagamentos-por-whatsapp ; e https://sei.cade.gov.br/sei/modulos/pesquisa/md_pesq_processo_exibir.php?0c62g277GvPsZDAxAO1tMiVcL9FcFMR5UuJ6rLqPEJuTUu08mg6wxLt0JzWxCor9mNcMYP8UAjTVP9dxRfPBcd6juAcG4lOuo5l7Q6DB__lNwxVag-pmGL_BqLKh0XV7. Acesso em 14.01.2022

⁵ OLIVEIRA, Rafael and RUDNITZKI, Ethel. Como o Facebook está patenteando as suas emoções (How Facebook is patenting your emotions). Galileu Magazine. 10/06/2019. Disponível em: https://revistagalileu.globo.com/Tecnologia/noticia/2019/07/como-o-facebook-esta-patenteando-suas-emocoes.html . Acesso em 20.12.2021.

⁶ ARRUDA, Vivian Anne Fraga do Nascimento; PINEDO, Paula; MONDECK, Luisa Pereira. Direito antitruste & inovação: mercados digitais envolvendo tecnologia disruptiva e análise antitruste. In: Mulheres no Antitruste. MACEDO, Agnes et. al (Org.). São Paulo: Ed. Singular, 2018, p. 37.

⁷ Decisão da Comissão Europeia no Case No. Comp/M.7217 — Facebook/WhatsApp. Disponível em: https://ec.europa.eu/competition/mergers/cases/decisions/m7217_20141003_20310_3962132_EN.pdf. Acesso em 21.12.2021.

⁸ ARRUDA, Vivian Anne Fraga do Nascimento et al. Op. cit. p. 38.

⁹ CASTRO, Bruno Braz de. A que(m) serve o antitruste? Eficiência e rivalidade na política concorrencial de países em desenvolvimento. Editora Singular. São Paulo, 2019. Disponível em: https://editorasingular.com.br/Uploads/Indice/Sumario_A_%20quem_serve_o_Antitruste_site.pdf. Acesso em 21.12.2021.

¹⁰ CASTRO, Bruno Braz de. A que(m) serve o antitruste? Op. cit. p. 169.

¹¹ FORGIONI, Paula. Os fundamentos do antitruste. 5a ed. São Paulo: Revista dos Tribunais, 2012, p. 186.

¹² CASTRO, Bruno Braz de. A que(m) serve o antitruste? Op. cit. p. 132.

¹³ HUBBARD, Sally. The case for why Big Tech is violating antitrust laws. CNN Business perspective. 02/01/2019. Disponível em: https://edition.cnn.com/2019/01/02/perspectives/big-tech-facebook-google-amazon-microsoft-antitrust/index.html. Acesso em: 22.12.2021.

¹⁴ ​​ ​​ARONSSOHN, Daniel. UE fecha acordo para regulação ambiciosa de big tech. O Estado de São Paulo. 24/03/2022. Disponível em: https://www1.folha.uol.com.br/tec/2022/03/ue-fecha-acordo-para-regulacao-ambiciosa-de-big-techs.shtml. Acesso em: 20.03.2022.

Whatsapp Pay: A próxima fronteira para ampliação de monopólio de dados was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.

This study carried out by Coding Rights analyzed the pilot implementation of Whatsapp Pay in Brazil. The country is the second in the world to implement this service, the first was India. Data colonialism? Beyond data protection debates, this case is fascinating because it (finally) raised the attention of Brazilian competition authorities about Facebook (Meta)’s monopolistic position and exposed the need for cooperation within regulatory authorities on data protection, competition law and consumer rights.

By Vanessa Koetz, Bianca Kremer and Joana Varon

On March 30, 2021, the Central Bank of Brazil (BCB) approved the use of Whatsapp Pay in the country. It is a feature for money transfer through the app itself, and no fees or charges are applied to payments carried out through the functionality. The focus is on small payments, and users can make up to 20 transactions a day of up to BRL 1,000 per transaction, with a monthly limit of BRL 5,000. The government of the State of São Paulo even announced that subway and bus passengers could pay for public transportation via Whatsapp.¹

The functionality had already been launched in June 2020 but was suspended indefinitely a few days later, at the behest of the Central Bank of Brazil and the Administrative Council for Economic Defense (CADE). Any failure to comply with the determination would result in a fine of BRL 500,000 per day. What has changed since then?

In the second half of 2021, about 120 million people, 60% of the population, used Whatsapp as a messaging app in the country.² Whatsapp is already the only chatting app in the country that has zero-rating deals with mobile operators, that is, it can be accessed free of charge for data traffic and free of charge when using internet connection plans. This is a reason that directly contributes to this app’s market monopoly and that limits access to other messaging apps, mainly by the poorest sections of the population, who depend on access through prepaid plans and with lower data plans. Now, Brazil is the second country to test this payment service. The first was India, which has the highest number of users in the world, with over 400 million³ Whatsapp users in 2021. It is not by chance that the pilot tests are implemented in huge markets of the app located in countries far from the company’s headquarters. Apparently, in addition to coining the term “user” to designate those using a given software — denoting the desire of Silicon Valley companies to foment addiction and dependence in the use of their products, instead of treating us simply as consumers (a word that implies rights) — as citizens of countries with less law enforcement power over the practices of these companies compared to their country of origin, we are also seen as guinea pigs to help expand Facebook’s — now called Meta — monopoly, as well as the company’s megalomaniacal ambitions.

It is not the first time the company has treated people from countries located on the periphery of the world economy, outside the Global North, differently. Recent changes to the app’s privacy policy have tangibly demonstrated the power asymmetries in the geopolitics of data protection since the changes did not apply to Europe; in other countries, however, those changes aimed, among other things, at restricting the access of people who do not adhere to the new policy, including explicit consent for sharing data from the app with Facebook. In Brazil, the change in its privacy policy was questioned by the Administrative Council for Economic Defense (CADE), the Federal Prosecutor’s Office (MPF), the National Data Protection Authority (ANPD), and the National Consumer Secretariat (Senacon) which, among other recommendations, requested the postponement of the change, scheduled for March 2021, and some restrictions on the changes.

In fact, Whatsapp Pay works via Facebook Pay, that is, for the activation of this functionality it is necessary to share data; the consent for this is being questioned by the change in the privacy policy. And, with that, Whatsapp/Facebook, with all its history of violation of personal data protection, now has access to our CPF (the Brazilian individual taxpayer registry), bank account details, bank transactions associated with our contact list, in addition to the phone number. The company can cross-reference this data with our social media usage and location. Never has a bank or credit card company had so much information about us. We are providing all of this to a company whose business model is advertising.

How does this service technically work? How has this system been implemented in Brazil? What has changed from CADE’s initial decision to now? Does this new service serve as a way of countering the indication of regulatory bodies against changes in the privacy policy? What security issues emerge with the service? More than the analysis of yet another service of this company, the fundamental question is that little by little, in addition to holding a monopoly situation of digital media, Facebook, now rebranded as Meta, seems to aim to expand its domains to set up an even broader monopoly, now focused on means of payment, even confronting major banks, especially if we consider the power that the company has in terms of access to our information and habits. Are there possible answers in Competition Law that would support the protection of Human Rights in digital media? And, in addition to competition rules and regulations, what limits can we put on platform capitalism and the practices of data colonialism implemented by these large technology companies? Who is most vulnerable to these practices? Who profits from it? Who loses in this productive neoliberal and global arrangement of the Big Tech companies? Even if this service doesn’t take off as Facebook/Meta hopes, what limits have been imposed on a similar endeavor?

Methodology

These are just some of the many questions that an initiative like this raises and which this study intends to address.

To answer these questions, the methodology developed included desk research, analysis of the case records of CADE process nº 8700.002871/2020–34⁴, analysis of the terms of service and privacy policies of Facebook/Whatsapp services, analysis of the access to information request process prepared by Coding Rights to the Central Bank of Brazil, and focal interviews with key actors to understand the functioning and potential impacts of implementing this system.

The study begins with a technopolitical contextualization of WhatsApp, Facebook (Meta), and the launch of WhatsApp Payment in Brazil, dominating markets and subjectivities and consolidating the Meta group as a monopoly in the messaging apps market in search of a new expansion of its frontiers: entry into the financial services sector. Then, we went on to identify the turbulent scenario of the launch of the Whatsapp payment tool in Brazil, the authorization process of Facebook Pagamentos do Brasil as a payment initiation service provider with the Central Bank of Brazil, and the way WhatsApp Payment works, its terms of service and privacy policies. From a decolonial perspective, we emphasize the use of Global South countries such as Brazil, Kenya, and India as laboratories for implementing big tech monopoly policies. Finally, from the perspective of competition law, we carried out an analysis of both the process of investigation of the concentration act initiated by CADE and the financial legislation appropriate to the payment initiation service.

What did we find?

The new business models carried out by large technology companies significantly alter the scope of analysis of competition authorities such as CADE and, in the case of big techs in the payments market, of financial system regulators, such as the Central Bank of Brazil.

While banks and fintechs are created to primarily operate financial services, these services are a small portion of what big techs offer; however, the nature of the payment initiation activity per se is that of an activity that essentially involves transmitting data and transactional information, activities that are at the core of these companies’ business model.

While the idea of big data efficiency is questionable, it is an attractive narrative for investors and consumers. And one cannot deny that the massive size of the databases held by big tech increases their competitive power in our information society and positions them in a unique place in the face of smaller initiatives. The entry of these companies into the payments market and in other elements of the financial system contributes to this repetitive cycle (loop) of data generation. If Facebook, through its various products, was already collecting data from the users’ social networks, now it also collects financial data. The possibility of cross-checking different bases belonging to companies, with the intention of expanding their consumer base and creating new business models is enormous — for example, one must ask what prevents the company from offering a credit service based on an ultra-fast scoring system that intertwines the massive database of social networks with the information flow collected in financial transactions? In China, in addition to social networks, WeChat already dominates payment markets through WeChat Pay, along with Ali Pay, the financial arm of Alibaba, the Chinese version of competitors eBay and Amazon.

In Brazil, Whatsapp Pay, for now, is limited to transactions between personal accounts, and not between personal and business accounts. Still, even if we don’t know if WhatsApp intends to become a “super app”, like the Chinese WeChat, it is possible to say that the Whatsapp Pay functionality is another step towards increasing the data monopoly that Facebook has over Brazil and India.

The entry of this big tech into financial services suggests possibilities for greater financial inclusion, as Whatsapp has enormous penetration and reaches places and audiences that traditional banks have not reached (or did not want to). Financial inclusion, among others, means access to credit and education opportunities and financial management for the conscious use of resources, for example, and contributes to social inclusion, especially in the context of extreme poverty that marks countries like Brazil, India, and Kenya, in which millions of people do not meet requirements to open a bank account (which requires several documents). However, we must ask ourselves: at what cost?

While it could facilitate inclusion in financial services, Meta/Facebook further increases its consolidation in the data market. Tapping into this enormous market power can result in abusive practices favoring its own services and products; the imposition of difficulties and barriers to the arrival of other competitors, and, based on its hegemony in the market, the decrease in the quality of its services — such as the interruptions in the provision of service, which have already been noticed in Brazil. Therefore, it becomes a data monopoly.

The sum of the collection of financial data and the massive database provided by social networks and Facebook’s gigantic user base, combined with artificial intelligence and machine learning, increase the predictive power of this company’s systems and can interfere with the modulation of user/consumer behavior — as it has already been observed in the North American elections.⁵

There is a regulatory gap regarding the entry of these companies into the National Financial System. Big techs are not banks or fintechs, whose main and almost exclusive activity lies in the financial market. They hold other ways of doing business that are based on massive data collection. The traditional focus on competition related to a single market, as we have seen, is unsatisfactory. First, it is necessary to guide actions from the perspective that the financial system is an infrastructure of public and essential interest and works to promote financial and social inclusion. Secondly, it is necessary to avoid having only one economic approach and that there be regulatory and supervisory integration between the fields of competition, financial system, privacy, and data protection and consumer protection.

Furthermore, there is no single universal solution to the issue, after all, big techs are not present in just one country and, without a doubt, national and international coordination of formulation, regulation and inspection activities related to big techs in the financial market is necessary, especially among countries outside the Silicon Valley zone.

The digital economy, as a whole, has brought challenges to the control of notification of concentration acts, introducing fields considered new to the law until then, especially those related to the digital market.⁶

Often, technology companies have low revenues and do not even meet the legal criteria for mandatory notification of operations to the antitrust authority. In the case of WhatsApp, it is an application that does not sell ads and is “free” for users in general (except for business accounts with the new Terms of Service) but has intangible assets with a high prospect of future cash generation and subjective pricing.

The acquisition of WhatsApp by Facebook in 2018 was a notable example of how the competition authorities’ focus on allocative efficiency of resources, strictly speaking, proves to be insufficient to deal with the challenges of the economic power held by major digital platforms today. Since WhatsApp did not reach the turnover threshold in 2017, the European Commission’s analysis almost missed the operation,⁷ had it not been for its inclusion in the mandatory notification criteria of three of its Member States.

Of the points regarding competition addressed by the European Commission, there was a special focus on the exchange of data collected between companies,⁸ which did not occur in the Brazilian case of CADE’s APAC (Administrative Proceeding to Investigate a Merger) between WhatsApp and Cielo, whose epicenter of analysis was the lack of a common enterprise for the exploration of activity economy between the parties.

It is also important to mention that much of the information requested by the CADE’s General Superintendence in the Brazilian case was confidential, such as the list of all the companies belonging to the two economic groups, their gross revenues, and the sum of the revenues of the companies belonging to the Meta/Facebook group. This significant lack of transparency regarding the reasons to avoid disclosing information of public interest is a very present trend in CADE’s analysis.

Furthermore, the mandatory notification criteria in Brazil are provided for in art. 77, §7º, of Law 12,529/2011 (Competition Defense Act), article 88, §7º of the Competition Defense Act, which allows CADE to request, exceptionally, the submission of any transaction for its analysis, even those that do not reach the turnover parameters but could, nevertheless, harm the competitive dynamics of the market.

In addition to this, art. 173, §4, of the Federal Constitution establishes that the law shall repress the abuse of economic power that aims at the domination of markets, the elimination of competition, and the arbitrary increase of profits. According to Bruno Braz de Castro,⁹ these terms indicate a concern with maintaining the structure of competition and combating exploitative abuses. The Constitution is precise in establishing that the principle of free competition coexists harmoniously — and horizontally — with other constitutional principles of the economic order, such as the reduction of social inequality, the social function of property, and preferential treatment for small enterprises. Therefore, the purpose of Brazilian competition law must be legitimized under the framework of social justice, in favor of objectives such as economic development and the reduction of social and regional inequalities.¹⁰

The defense of competition is also one of the instruments — not the only one — to ensure a dignified existence, according to the dictates of social justice,¹¹ which is why virtual platform markets need to be on the radar of authorities such as CADE and, in this case because it deals with payment markets, the Central Bank of Brazil. Mergers and acquisitions policies are frequent, especially on the part of Big Techs, with the predatory incorporation of startups that have the potential to threaten their dominant position. If today Meta/Facebook is a social media regarded as one of the giants of the technology industry, this is largely due to its stance of dominating emerging competitive threats, such as WhatsApp and other companies in the group (Instagram, for instance). Competition authorities that disregard this economic, social and political scenario undertaken by platform capitalism are true catalysts of this process.

Dominant positions in virtual platform markets demand strong antitrust attention, and competition law needs to go beyond issues related to the allocative efficiency of resources in order to address these new challenges. It must focus on the effectiveness of the competitive process as a whole because, in the context of digital platforms, successful competition for the market tends not to face substantial competition in the market.¹²

In this sense, a partnership like the one between WhatsApp and Cielo may not, at first sight, show the presence of a common enterprise of the same economic activity, or contractual exclusivity. But the concentration of economic power takes on a new dimension as we notice the exclusionary effects undertaken by Meta/Facebook in the context of its market hegemony. Is there actually any real competitor against a company like Meta/Facebook on the global stage with whom Cielo will be able to build a partnership agreement in an advantageous and truly competitive way? Is there any messaging service comparable to WhatsApp on the national scene, with the same — or even similar — reach and relevance?

CADE, as an important strategic entity for the maintenance of the Brazilian System for the Defense of Competition, needs to pay increased attention to the abuse of market power undertaken by digital platforms that, in addition to absorbing rival businesses, undertake regulatory power to squash the profitability of certain products/services as a strategy to maintain their position as leaders.¹³

The constitutional principles of the economic order not only allow but are based on the need for sober looks at the Brazilian reality. Therefore, it is essential to ponder on the data monopoly in the competitive context, and the obstacles to the contestability of this market hegemony conquered by Meta/Facebook that extends to the market of means of digital payment, through WhatsApp Pay. It is no wonder that the General Personal Data Protection Law (Law nº 13.709/2018) provides in article 2, item VI, that “free initiative, free competition and consumer protection” are the foundation of personal data protection.

We suggest the adoption of a critical stance regarding the alleged neutrality rhetoric that surrounds the criterion of economic efficiency, widely used in competition analysis in Brazil. Decisions such as that of CADE’s APAC in the WhatsApp Pay case have an apparently scientific, objective and purely technical guise that, in fact, renders invisible the neoliberal ideological aspect that underlies, for CADE, the very concept of anti-competitive effects to be taken into account on the precautionary suspension of the operation.

Recommendations

Given the complexity of the topic, which involves a business model whose focus is the flow of information within the financial system, there is a need for a multisectoral approach to the analysis of the entry of big techs into the financial system that includes, in addition to the law of the financial system, at least competition law, consumer law, and rights related to privacy and data protection.

Among the central recommendations inferred from the information obtained in this study, some stand out. They are:

1. Reinforcement of CADE, as the Brazilian competition authority, in dealing with major digital platforms. Germany presented an interesting example in November 2021 when it proposed the German Coalition Agreement on Digital Rights. Its members expressed substantial support for the regulation of platforms by the European Union, taking a solid position in favor of restricting the use of surveillance technologies by the government. Among the specifics, there was a suggestion to reinforce the Bundeskartellamt (German competition authority) over consumer law and digital platforms. Updating competition laws to face the challenges brought by the new digital economy — especially concerning the platforming process in economic relations — is one of the main points for protecting the fundamental rights of users and consumers in the digital environment. Thus, it is important to observe the European process regarding the approval of the Digital Markets Act, which intends to regulate the performance of big techs, by imposing limits on their operation, as well as repressing anti-competitive practices.¹⁴
2. Need for cooperation between authorities, with the elaboration of cooperation terms, especially between the Central Bank of Brazil (BCB) and the National Data Protection Authority (ANPD). The technical cooperation agreement signed between CADE and ANPD in 2021 aimed at inter-institutional cooperation in cases of violations of the economic order involving the use and sharing of personal data. In the setting of the digital economy and platform capitalism, Big Techs have increasingly taken advantage of the market reserve acquired over prolonged periods without the presence of a closer look by the authorities on the need to regulate their activities. More than ever, the joint and coordinated promotion of authorities such as ANPD and BCB proves to be of imperative relevance for the effective protection of the fundamental rights of users, in the current context of Open Banking, especially regarding the criteria to be adopted for acting as means of digital payments. There are many challenges to be faced in this field, as we observe intense sturdiness on the part of BCB in regulating the economic order, while, on the other hand, we have a society that is still moving toward the construction of a data protection culture, with a newly structured National Authority to deal with countless adversities to come. Therefore, it is important to note, as in the technical cooperation agreement between ANPD and CADE, that it will be increasingly necessary to promote joint and coordinated actions among Brazilian institutions to combat harmful activities to the economic order, especially in the face of challenges posed by the digital economy.
3. Need for international cooperation between regulatory and supervisory agents, especially from Global South countries, in order to counterbalance the international monopoly. Brazilian authorities have adopted a rather reductionist conception of what, in fact, constitutes the existence of monopoly and harm to competition in the context of the digital economy. They tend to ignore considerations about platform capitalism and data colonialism as important driving and perpetuation forces of the leading position held by Big Techs in the technology market. In the context of a global, hyperconnected society, it is important to observe that the distribution of digital products and services does not occur unreasonably, as seen, for example, in the discrepancies in the changes to WhatsApp’s terms of service in Brazil/India, given the situation of EU member countries. The former had much more permissive and abusive conditions in the provision of the product/service compared to the other countries. Some conditions need to be taken into account when we think about the impacts of services provided to countries in the Global South by Big Techs, which are companies with consolidated market power on a global scale. These countries hold an inherited historic position of vulnerability and economic and technological subservience towards the countries of the Global North. Practical issues such as internet access, connectivity, inclusion, and gender asymmetries and their intersectionalities are not trivial. They take on a different dimension in the context of international monopoly — which occurs in the Economy largely due to personal data, the “raw material” for the activities of these companies. Data colonialism, therefore, lacks a careful look at the geopolitical context of countries in situations of social vulnerability such as Brazil. Bringing these discussions to the field of international cooperation can greatly strengthen the performance of regulatory and supervisory agents in Brazil and the world, as well as allow an effective agenda for the protection of human, fundamental and digital rights in this tortuous, ongoing and necessary debate on the overlaps between the offer of digital platform services and banking services.

The complete publication (only in Portuguese) is available at: https://codingrights.org/docs/ZapPay_monopolio_dados.pdf

Illustration by Clarote

Watch the research launch event here:

What about online payment architecture and Big Tech? Data protection and competition

Footnotes

¹ Vai de Pix! Usuários de SP e Salvador já podem pagar o transporte público digitalmente (Pay with Pix! SP and Salvador users can now pay for public transportation digitally). Available at: https://www.tudocelular.com/tech/noticias/n175288/transporte-publico-comprar-passagens-via-whatsapp.html. Accessed on 20.12.21.

² Current WhatsApp numbers in Brazil and the potential of the app for business https://www.messengerpeople.com/pt-br/whatsapp-no-brasil/#:~:text=Com%20quase%20120%20milh%C3%B5es%20de,meio%20predileto%20para%20mandar%20mensagens. Accessed on 20.03.22.

³ WhatsApp may soon touch 500 million users in India despite new privacy policy, claims report. Available at: https://www.indiatoday.in/technology/news/story/whatsapp-may-soon-touch-500-million-users-in-india-despite-new-privacy-policy-claims-report-1758344-2021-01-12 Accessed on 20.12.21.

⁴ CADE process no. 8700.002871/2020–34. Available at: http://antigo.cade.gov.br/noticias/cade-suspende-operacao-entre-facebook-e-cielo-que-pretende-viabilizar-pagamentos-por-whatsapp; and https://sei.cade.gov.br/sei/modulos/pesquisa/md_pesq_processo_exibir.php?0c62g277GvPsZDAxAO1tMiVcL9FcFMR5UuJ6rLqPEJuTUu08mg6wxLt0JzWxCor9mNcMYP8UAjTVP9dxRfPBcd6juAcG4lOuo5l7Q6DB__lNwxVag-pmGL_BqLKh0XV7. Accessed on 14 Jan 2022.

⁵ OLIVEIRA, Rafael and RUDNITZKI, Ethel. Como o Facebook está patenteando as suas emoções (How Facebook is patenting your emotions). Galileu Magazine. 10/06/2019. Available at: https://revistagalileu.globo.com/Tecnologia/noticia/2019/07/como-o-facebook-esta-patenteando-suas-emocoes.html . Accessed on 20 Dec. 2021.

⁶ ARRUDA, Vivian Anne Fraga do Nascimento; PINEDO, Paula; MONDECK, Luisa Pereira. Direito antitruste & inovação: mercados digitais envolvendo tecnologia disruptiva e análise antitruste. In: Mulheres no Antitruste. MACEDO, Agnes et. al (Org.). São Paulo: Ed. Singular, 2018, p. 37.

⁷ European Commission Decision in Case No. Comp/M.7217 — Facebook/WhatsApp. Available at: https://ec.europa.eu/competition/mergers/cases/decisions/m7217_20141003_20310_3962132_EN.pdf. Accessed on Dec 21, 2021.

⁸ ARRUDA, Vivian Anne Fraga do Nascimento et al. Op. cit. p. 38.

⁹ CASTRO, Bruno Braz de. A que(m) serve o antitruste? Eficiência e rivalidade na política concorrencial de países em desenvolvimento. Editora Singular. São Paulo, 2019. Available at: https://editorasingular.com.br/Uploads/Indice/Sumario_A_%20quem_serve_o_Antitruste_site.pdf. Accessed on Dec 21, 2021.

¹⁰ CASTRO, Bruno Braz de. A que(m) serve o antitruste? Op. cit. p. 169.

¹¹ FORGIONI, Paula. Os fundamentos do antitruste. 5a ed. São Paulo: Revista dos Tribunais, 2012, p. 186.

¹² CASTRO, Bruno Braz de. A que(m) serve o antitruste? Op. cit. p. 132.

¹³ HUBBARD, Sally. The case for why Big Tech is violating antitrust laws. CNN Business perspective. 02/01/2019. Available at: https://edition.cnn.com/2019/01/02/perspectives/big-tech-facebook-google-amazon-microsoft-antitrust/index.html. Accessed on Dec 22, 2021.

¹⁴ ​​ARONSSOHN, Daniel. UE fecha acordo para regulação ambiciosa de big tech (EU strikes deal on ambitious big tech regulation). O Estado de São Paulo. 24/03/2022. Available at: https://www1.folha.uol.com.br/tec/2022/03/ue-fecha-acordo-para-regulacao-ambiciosa-de-big-techs.shtml. Accessed on May 20, 2022.

Whatsapp Pay: The next frontier for the expansion of data monopoly was originally published in Coding Rights on Medium, where people are continuing the conversation by highlighting and responding to this story.