Não há sobre a aplicação, uso de conhecimento e fotografias e responsabilidade por erros. A tecnologia se torna a melhor amiga do encarceramento e reforça o racismo estrutural. Campanha articula parlamentares para acabar com violações.
Pablo Nunes, em entrevista com Nicolau Soares, no Brasil de Fato
Na última terça-feira (21), 50 parlamentares de outros partidos apresentaram gastos proibindo o uso da popularidade facial em espaços públicos. A ação envolveu deputados e conselheiros estaduais de 12 estados e do Distrito Federal e é resultado da campanha #SaiDaMinhaCara, organizada por meio das organizações Coding Rights, MediaLab/UFRJ, Rede Lavits, Instituto Brasileiro de Defesa do Consumidor (IDEC) e Centro de Estudos de Sécurité et Citoyenneté (CESeC).
Receba por e-mail, diariamente, todas as publicações do site.
Você já está cadastrado e em breve começará a receber boletins informativos. Feliz leitura!
Em São Paulo, a nota fiscal foi apresentada à Assembleia Legislativa em conjunto através dos deputados Isa Penna (PCdoB), Leci Brandão (PCdoB) e Erika Malunguinho (PSOL) e está sendo tramitada como PL 385/2022. O texto proíbe o governo de “obter, adquirir, reter, vender, possuir, receber, solicitar, acessar, desenvolver, aprimorar ou melhorar tecnologias de popularidade facial ou dados derivados da tecnologia de popularidade facial”, bem como contratar terceiros para esses serviços.
O uso da destemida popularidade facial para a garantia de direitos tem acontecido em vários lugares. Em 2021, a prefeitura do Recife anunciou que serão instalados 108 relógios virtuais que serão fornecidos com instrumentos de popularidade facial.
No Rio de Janeiro, em 2019, a Polícia Militar montou uma missão piloto de reconhecimento de videomonitoramento facial. As câmeras foram instaladas primeiro no bairro de Copacabana, mas depois se expandiram ao redor do Estádio do Maracanã e do Aeroporto Santos Dumont, na região central da cidade. Posteriormente, o governo de Cláudio Castro (PL) propôs instalar a geração na rede do Jacarezinho, palco do mais mortal banho de sangue já registrado no Rio de Janeiro, que deixou outras 28 pessoas mortas.
Pablo Nunes, coordenador do Panóptico, um trabalho do CESeC que monitora o uso de tecnologias de reconhecimento facial pela polícia, alerta que todos esses experimentos estão tomando posição antes de qualquer legislação regulatória.
“Não podemos localizar uma base mínima para esse tipo de geração a ser usada. Ou seja, protocolos operacionais, regulação, determinações transparentes de quem, quando e como será feito o acesso ao conhecimento das pessoas, o ciclo de vida desse conhecimento, quem será o culpado pelos erros que essa implementação acontece. Não temos esse estudo de base”, diz ele.
Os efeitos da implementação da popularidade facial mostram forte viés racial. Estudo realizado por meio da Rede de Observatórios de Segurança em 2019, com dados coletados em 4 estados brasileiros (Bahia, Rio de Janeiro, Santa Catarina e Paraíba), mostra que das outras 151 pessoas presas, 90% eram negras.
Em entrevista ao Brasil de Fato, Nunes expõe os principais transtornos com o uso não regulamentado dessa tecnologia, especialmente no contexto da proteção pública, afetando basicamente a população negra. “Queremos perceber que popularidade facial significa uma técnica policial e de encarceramento. Já sabemos que a maioria das outras pessoas tecnificadas pela polícia, especialmente violentamente, são jovens negros. Aqui no Rio, 63% da população da cidade que é tecnificada pela polícia é negra e também sabemos que a violência é permeada por esses encontros entre jovens negros e a polícia”, disse.
Outra faceta vital é a ênfase no encarceramento. ” O Brasil é um dos países com maior população criminosa do mundo e um dos que mais crescem. E não notamos uma melhora em nossa proteção pública neste atraso de encarceramento, pelo contrário. E estamos diante da popularidade, tomando um novo compromisso com o encarceramento como solução para os problemas de proteção pública do país. “
Qual é a linha central das despesas inscritas?Foi um coletivo de organizações?
A cruzada #SaidaMinhaCara é resultado de uma organização coletiva entre o CESeC, que traz a atribuição panóptica, Direitos de Codificação, IDEC e Media Lab para a UFRJ. Essas organizações se uniram e elaboraram um projeto de lei que proíbe a popularidade facial nos níveis estadual e municipal. Com base nesse estilo, entramos em contato com parlamentares de todo o Brasil para ver se havia interesse em protocolar essas demandas e fizemos a cruzada.
A popularidade facial tem sido usada em muitas instituições, como bancos. Até o governo encorajou outras pessoas a assinar em seus rostos. Quais são os riscos associados à adoção dessas tecnologias e por que é importante proteger seu desenvolvimento?
O objetivo das despesas que estamos testemunhando ao protocolo é um pouco mais específico, que é o uso da geração em espaços públicos. Existem dezenas, muitos programas desses algoritmos e temos focado em explorá-los no espaço público, pois é nesse uso que localizamos o maior número imaginável de violações de privacidade, direitos humanos e outras garantias legais.
Mas isso não isenta o fato de que esses algoritmos podem produzir vieses que prejudicam o acesso a direitos. Se pensarmos em Gov. br, que é uma plataforma através da qual podemos acessar o máximo das instalações operadas pelo governo federal, se você combinar essa fórmula com reconhecimento facial, algumas outras pessoas terão mais dificuldade em validar seu cadastro para acessar esses direitos. Notamos que esse procedimento foi realizado durante a pandemia de covídeo, basicamente a partir da criação de auxílios de emergência, que exigiram validação por meio do reconhecimento facial. Isso acabou criando uma série de dificuldades para que um determinado componente da população garantisse esses direitos.
Outra aplicação que também pode significar uma dificuldade de acesso aos direitos está no transporte público, uma vez que um componente inteligente dos cartões Bilhete Único, que possuem outros nomes em outros estados, relacionam-se com a identidade do titular e realizam reconhecimento facial em câmeras anexadas. com equipamento de validação de cartão. E outras pessoas ocasionalmente lutam e acabam localizando seus cartões de acesso de trânsito bloqueados através de uma fraude imaginável que a popularidade facial teria encontrado. Este é um drama, que já foi muito bem documentado através de Direitos de Codificação, que é experimentado através de outras pessoas trans, cuja identidade é ocasionalmente questionada através desses sistemas. Isso acaba fazendo com que as outras pessoas percam seus ingressos exclusivos.
O Panopticon se concentra em questões semelhantes à segurança pública. O que você mostra em relação à forma como a popularidade facial tem sido implementada no Brasil?
Foi implementado de forma totalmente desregulamentada. Não há regulamentação expressa para o uso da popularidade facial na segurança pública no Brasil. De fato, a Lei Geral de Proteção de Dados (LGPD) não abrange esse uso, pois no quarto artigo da lei determina que a segurança pública e a defesa nacional não se enquadram no âmbito das determinações colocadas no texto. Assim, temos uma situação de desregulamentação total, aliada à ampliação da construção em projetos desenvolvidos através das polícias e guardas municipais do território nacional.
Este é um cenário confuso, pois não há base mínima para esse tipo de geração a ser utilizada. Ou seja, protocolos operacionais, regulação, determinações transparentes de quem, quando e como será feito o acesso ao conhecimento das pessoas, o ciclo de vida desse conhecimento, que será responsável pelos erros que ocorrem nesta implementação. Não temos essa linha de base para examinar esses projetos.
E quando eles trabalham, não temos acompanhamento mínimo. Os policiais entrevistados em nosso tempo de estudo responderam que não contavam quantas outras pessoas tinham sido bem reconhecidas, quantas tinham sido mal reconhecidas, quantas outras haviam sido abordadas, quantos rostos haviam sido capturados, qual era a duração dessa base de conhecimento de rostos capturados, não sabemos. E é muito vital que esse conhecimento fundamental seja coletado porque lhe dirá o quão eficaz ou não essa geração é para o nosso uso diário, no contexto nacional.
O que descobrimos aqui no Rio de Janeiro foi o relato sobre o uso de câmeras em um dia, nos arredores do Maracanã, aparecendo que 63% dos presos naquele dia foram detidos indevidamente, não outros que haviam emitido a prisão. garantias em seu nome. Então, o que temos notado é precisamente a falta de atenção e regulação do uso dessas tecnologias. Sabemos que as tecnologias de popularidade facial produzem muito mais danos do que avanços, do que elementos positivos para garantir direitos, para o controle das agências de segurança. Então nossa posição é a favor da proibição.
Qual é a diferença entre racismo estrutural e esse problema?E em termos de identificar pessoas trans, como isso acontece?
O racismo estrutural está completamente ligado a este desafio em vários níveis, seja através do design de algoritmos, que leva em conta o design de cara branca como um design popular, e qualquer coisa ao ar livre, essa norma é considerada um ponto fora da curva. . Também temos o racismo como detalhe central na operação e na seleção de locais onde essas câmeras serão instaladas. Então, no Rio de Janeiro, temos, como primeiro passo, uma cerca de Copacabana para acesso seguro para outras pessoas através da popularidade facial – sabemos que Copacabana está cercada há décadas em comparação com o acesso de jovens negros, basicamente das periferias aqui no Rio. Ou também quando vemos câmeras usadas nas favelas para essas populações.
E o que vimos além disso é como a polícia os manipula. Queremos entender que popularidade facial significa técnica policial e prisão. Já sabemos que a maioria das outras pessoas manipuladas pela polícia, especialmente violentamente, são negras. jovens. Aqui no Rio, 63% da população da cidade que é tecnificada pela polícia é negra e também sabemos que a violência é permeada por esses encontros entre jovens negros e a polícia. E também em termos de encarceramento, a polícia brasileira é um dos países com maior população criminosa do mundo, e um dos mais dinâmicos. E não notamos uma melhora em nossa proteção pública neste atraso de encarceramento, pelo contrário. Estamos com popularidade facial fazendo uma nova aposta no encarceramento como solução para os problemas de proteção pública do país.
Há um discurso sobre segurança que acaba sendo bonito diante do medo das pessoas. Isso pode levá-los a esses distúrbios como algo menor?
Temos uma situação em que nossos direitos são colocados em uma escala e temos o direito que devemos perder para ganhar outro. Quando, na realidade, merecemos ter um Estado que proteja e promova todos os direitos previstos em sua Constituição. E é vital enfatizar que nem todos são convidados a serem flexíveis com seus direitos. É basicamente para a população negra, que tem sofrido os maiores efeitos colaterais nesses experimentos de proteção pública, que é precisamente aquela população que está sendo solicitada a renunciar parte de seus direitos para o bem comum.
É lamentável saber e ver que, muito ocasionalmente, nós, como sociedade como um todo, parlamentares, organizações da sociedade civil e assim por diante, acabamos aceitando que esses preconceitos, esses efeitos aspectos do uso da popularidade facial e outras políticas públicas de proteção, temos sucesso na população negra e só criticamos e confrontam o avanço desse dispositivo estuprador quando aqueles que sofrem dela são brancos. Essa situação é muito grave, porém, é o que temos notado hoje no Brasil.
Rua Araújo, 124 – República – São Paulo/SP
Usamos cookies para sua experiência de navegação.
Você pode aprender mais sobre conhecimento armazenado e configurado clicando nas configurações.
Este site online usa cookies para que possamos fornecer-lhe a experiência mais produtiva do usuário imaginável. As informações sobre cookies são armazenadas no seu navegador e são para propósitos como detectá-lo quando você retornar à nossa página online e ajudar nossa equipe a perceber quais seções da página online você acha mais atraentes e úteis.
Somente cookies obrigatórios serão ativados para o funcionamento do.
Se você permitir esta opção, ela não será armazenada e será exibida novamente em sua nova visita.