Por Naiala dos Santos e Tiago Batista*
Com as transformações sociais e tecnológicas contemporâneas, as Tecnologias de Informação e Comunicação (TICs) expressam e contribuem para mudanças nas políticas públicas e nas formas de prestação do serviço público. Busca-se melhorias em processos, produtos e serviços, além do aumento na transparência e accountability das ações públicas.
A partir de mudanças na operação governamental, a presença de algoritmos na tomada de decisão tem sido crescente. A utilização de algoritmos tem o intuito de automatizar as decisões e torná-las mais efetivas, mas seu uso também pode dificultar o acesso claro às informações (Saldanha, 2020) e às decisões que estão por trás de sua produção.
Prado (2009) destaca que a democracia eletrônica deve garantir ao público a oportunidade de consultar eletronicamente as informações e não apenas obter uma permissão formal de acesso. Afirma que essa democracia eletrônica deve ser estabelecida em dois pilares: acesso, entendido como a possibilidade de obter a informação, e acessibilidade, ou a facilidade de aproximar-se da informação**. De modo que, quando não se tem bons acessos eletrônicos e acessibilidade correta das informações governamentais, não existirá o poder de julgamento, uma vez que não se consegue verificar quais são as decisões e planos da administração pública.
Isso pode ser observado quando alguém vai até uma concessionária de automóveis para comprar um carro e, a partir do seu CPF, o sistema utilizado pela loja disponibiliza os dados do cliente e quais as condições de pagamento podem ser estabelecidas no caso. Sem acesso à forma de decisão do sistema, o cliente tem dificuldades, ou não tem como contestar as decisões das condições de pagamento, podendo apenas aceitar as possibilidades ou não de comprar o carro.
Saldanha (2020) afirma que esses algoritmos não são simples e objetivos, mas estão fundamentados em diferentes percepções e entendimentos da sociedade, contendo vieses que podem em muitos casos refletir em práticas discriminatórias.
Sendo assim, torna-se importante a disponibilização para o conhecimento da população sobre a forma de funcionamento dos algoritmos que controlam a prestação de serviços públicos eletrônicos. A transparência é um instrumento que possibilita a identificação e a correção de eventuais erros. Em decorrência disso, surge o termo accountability de algoritmos, representando a responsabilização algorítmica, segundo a qual, se houver dano, este pode ser avaliado, controlado e reparado. Segundo New e Castro (2018), a accountability de algoritmos tem por objetivo promover resultados desejados ou benéficos, proteger contra resultados indesejáveis ou prejudiciais e garantir que as leis para decisões humanas possam ser utilizadas em decisões algorítmicas.
No Brasil, a Lei 13.709/2018, chamada Lei Geral de Proteção de Dados Pessoais – LGPD, assegura o direito à explicação sobre os critérios utilizados em uma tomada de decisão automatizada. No art. 20, § 1º afirma que “O controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada […]”. Pode inclusive ser realizada uma auditoria em caso de não oferecimento das informações.
A LGPD assegura, ainda, o direito à revisão da decisão tomada unicamente por tratamento automatizado, como explicitado no art. 20:
“O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade” (BRASIL, 2018).
A redação original do art. 20 da LGPD possibilita a revisão por um ser humano, entretanto, em 2019, a possibilidade foi vetada pelo presidente, tornando possível apenas a revisão por outra máquina, também baseada em algoritmos.
Isto posto, podemos concluir que a tecnologia aplicada aos sistemas de e-GOV deve ser objeto de muita discussão e análise crítica, estando a e-transparência brasileira ainda em estágio embrionário, já que a disponibilização de um serviço mais célere, sem mecanismos de transparência e accountability suficientes, acaba tornando-se não democrático (SALDANHA, 2020).
*Texto elaborado pelos acadêmicos de administração pública Naiala dos Santos e Tiago Batista, no âmbito da disciplina sistemas de accountability, da Udesc Esag, ministrada pela professora Paula Chies Schommer, em 2022.
** Em 2005, foi lançado o Modelo de Acessibilidade de Governo Eletrônico (e-MAG), que recomenda a acessibilidade dos portais e sítios eletrônicos da administração pública ao maior número de pessoas possível, considerando as necessidades especiais de diferentes públicos que os utilizam.
Referências
BRASIL. Lei nº 13709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). 14 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 23 nov. 2022.
BRASIL. Do Eletrônico ao Digital. Ministério da Economia, 25 nov. 2019. Disponível em: https://www.gov.br/governodigital/pt-br/estrategia-de-governanca-digital/do-eletronico-ao-digital. Acesso em: 6 dez. 2022.
NEW, Joshua. CASTRO, Daniel. How Policymakers Can Foster Algorithmic Accountability. 21 mai. 2019. Disponível em: http://www2.datainnovation.org/2018-algorithmic-accountability.pdf. Acesso em: 06 dez. 2022.
PRADO, Otávio. GOVERNO ELETRÔNICO, REFORMA DO ESTADO E TRANSPARÊNCIA: O PROGRAMA DE GOVERNO ELETRÔNICO DO BRASIL. 2009. Tese (Doutorado em Administração Pública e Governo) – Escola de Administração de Empresas de São Paulo da Fundação Getúlio Vargas, São Paulo, 2009. Disponível em: https://bibliotecadigital.fgv.br/dspace/bitstream/handle/10438/2501/72050100746.pdf?sequence=2&isAllowed=y. Acesso em: 23 nov. 2022.
SALDANHA, Douglas Morgan Fullin.Transparência e accountability em serviços públicos digitais. 2020. Dissertação (Mestrado em Administração Pública) – Faculdade de Economia, Administração e Contabilidade (FACE) da Universidade de Brasília, Brasília, 2020. Disponível em: https://repositorio.unb.br/bitstream/10482/38702/1/2020_DouglasMorganFullinSaldanha.pdf. Acesso em: 23 nov. 2022.
Outros artigos e links de assuntos relacionados:
AMERICAN Civil Liberties Union. Disponível em: <https://www.aclu.org/issues/racial-justice/accountability-in-artificial-intelligence>.
INSTITUTO de Tecnologia e Sociedade. Disponível em: <https://itsrio.org/pt/home/>.
SALDANHA, DOUGLAS MORGAN FULLIN e SILVA, MARCELA BARBOSA DA. Transparência e accountability de algoritmos governamentais: o caso do sistema eletrônico de votação brasileiro. Cadernos EBAPE.BR [online]. 2020, v. 18, n. spe pp. 697-712. Disponível em: <https://www.scielo.br/j/cebape/a/gQ4YDzBjxFp7PpK5SZHbdHL/>.