A OCDE lançou em maio deste ano as Tendências Globais em Inovação Governamental 2023. O relatório traz o levantamento feito pelo Observatório de Inovação do Setor Público da OCDE (OPSI) que analisou 1.084 iniciativas inovadoras de 94 países para entender novas práticas governamentais.
Nesta série de artigos serão abordadas de forma resumida todas as tendências trazidas no relatório. Serão evidenciados de forma sucinta os exemplos e boas práticas que podem ser lidos com mais detalhes no próprio relatório. O principal objetivo é trazer uma leitura mais rápida para inspirar as iniciativas nacionais nos temas mais pulsantes no que diz respeito à inovações em governos. Este texto irá falar sobre a primeira tendência, que é a responsabilização dos governos.
Tendência 1: Novas formas de responsabilização para uma nova era de governo
Uma das tendências em destaque é a crescente adoção da Inteligência Artificial (IA) na concepção e entrega de políticas e serviços governamentais. O relatório ressalta a importância da responsabilidade algorítmica, ou seja, garantir que aqueles envolvidos na construção, aquisição e uso de algoritmos sejam responsáveis por seus impactos. Para alcançar isso, várias medidas são propostas.
Um dos principais instrumentos é a adoção dos Princípios de IA da OCDE, que enfatizam a incorporação de valores centrados no ser humano, como justiça, transparência, explicabilidade e responsabilidade, nos sistemas de IA. No entanto, os marcos legais e regulatórios atuais carecem de clareza sobre esses valores, especialmente em relação ao uso de algoritmos no setor público. Algumas iniciativas citadas têm empenhado esforços nesse sentido e podem servir de inspiração:
- Regulamento Geral de Proteção de Dados da União Europeia (GDPR);
- Lei de Serviços Digitais da UE (DSA);
- Lei de Dados e Inteligência Artificial proposta pelo Canadá (AIDA);
- Proposta de Lei de Inteligência Artificial da UE (Lei de IA).
Além disso, esforços estão sendo feitos para promover a responsabilidade algorítmica de dentro para fora. Esses esforços incluem a criação de entidades independentes que auditam o uso de algoritmos em termos de segurança, qualidade, ética, transparência e outros critérios. Alguns exemplos são:
- Conselho de Transparência do Chile: está desenvolvendo uma “Instrução Geral sobre Transparência Algorítmica” obrigatória para entidades públicas na América Latina. Prevê-se uma consulta pública em 2023.
- Tribunal de Contas da Holanda (NCA): desenvolveu uma estrutura de auditoria em 2021 para avaliar a qualidade dos algoritmos. Em 2022, auditou nove principais algoritmos do setor público, revelando que seis deles não atendiam aos requisitos básicos, expondo o governo a vieses e riscos de segurança.
- Agência Espanhola de Supervisão de Inteligência Artificial: criada em 2022 na Espanha como uma entidade independente para supervisionar a IA. A Holanda também lançou uma entidade semelhante em 2023.
- A legislação de IA na Europa também viabilizou a criação de um Conselho Europeu de Inteligência Artificial (EAIB) supervisor.
Os atores externos também estão fortalecendo a responsabilidade a partir da colaboração entre governos, o que tem impulsionado a inovação e garantindo que os sistemas algorítmicos sejam responsáveis e atendam ao interesse público, como:
- ISO/IEC TR 24028:2020: especificação técnica desenvolvida pela Organização Internacional de Padronização (ISO) e pelo Instituto de Engenheiros Elétricos e Eletrônicos (IEEE). Este padrão aborda a confiabilidade em IA, fornecendo diretrizes técnicas para garantir a segurança e a confiabilidade dos sistemas de IA.
- Programa de Certificação de Ética para Sistemas Autônomos e Inteligentes (ECPAIS): iniciativa do IEEE que visa estabelecer padrões de qualidade e ética para sistemas autônomos e inteligentes. O programa inclui a certificação de conformidade com princípios éticos e diretrizes específicas.
- Princípios para Sistemas Algorítmicos Responsáveis da ACM: emitido pela Association for Computing Machinery (ACM), esse conjunto de princípios aborda questões como legitimidade, competência, minimização de danos, transparência, explicabilidade, contestabilidade e responsabilidade em sistemas algorítmicos. Acompanha orientações sobre sua aplicação, considerando governança, prós e contras.
Esses são exemplos de como padrões técnicos e auditoria (interna e externa) de algoritmos são práticas essenciais que fecham o ciclo dos esforços de responsabilidade algorítmica, permitindo a verificação prática dos algoritmos em casos de uso do mundo real.
Outro aspecto abordado no relatório é o surgimento de startups GovTech, que estão contribuindo para a responsabilidade algorítmica no setor público. Essas startups têm o potencial de impulsionar a inovação responsável e aumentar a confiança nos governos.
Iniciativas adicionais são essenciais para impulsionar ainda mais a responsabilidade algorítmica no setor público, como promover a capacitação dos servidores públicos em relação aos princípios de IA e ética de dados e estabelecer definições claras e processos robustos de governança de dados.
Veja que os governos têm a oportunidade de liderar globalmente e influenciar práticas no campo da responsabilidade algorítmica. No Reino Unido, por exemplo, um estudo de caso interessante é mencionado, envolvendo a implementação do Padrão de Registro de Transparência Algorítmica (Algorithmic Transparency Recording Standard (ATRS)). Esse padrão promove a transparência no uso de ferramentas algorítmicas em decisões governamentais, fornecendo:
- Informações claras sobre a responsabilidade pelo algoritmo;
- Descrição do algoritmo e justificativa para seu uso;
- Processo de tomada de decisão e supervisão humana;
- Especificações técnicas e dados;
- Análise de riscos, mitigações e avaliações de impacto.
Esse é um esquema estruturado para registrar e relatar informações sobre os algoritmos utilizados, com diferentes níveis de detalhes para públicos diversos. O projeto foi desenvolvido em colaboração com o setor público, a indústria, partes interessadas acadêmicas e com o envolvimento dos cidadãos. Um dos principais ganhos é obter a confiança dos cidadãos através da transparência.
Além disso, o relatório aborda outros temas relevantes, como novas abordagens de Governo Aberto com o movimento “Regras como Código” (RaC), que consiste em criar versões oficiais de regras governamentais que podem ser consumidas por máquinas, além das versões em linguagem natural. Essa abordagem busca promover a transparência e facilitar o acesso e a compreensão das obrigações e direitos governamentais.
Ao disponibilizar versões consumíveis por máquina das regras, os cidadãos e empresas podem acessar diretamente as informações governamentais, reduzindo a necessidade de interpretação e tradução individual. Isso também permite o desenvolvimento de aplicativos e ferramentas que auxiliam as pessoas a entenderem melhor as regras e regulamentações. A transparência fornecida pelo RaC fortalece também a confiança do público no governo e está alinhada com as boas práticas regulatórias.
A implementação da Internet das Coisas (IoT) e cidades inteligentes é outra discussão levantada. A IoT refere-se à conexão de dispositivos inteligentes em uma rede para coletar e trocar dados. As cidades inteligentes aproveitam a IoT para melhorar o funcionamento dos sistemas urbanos, como transporte, gerenciamento de energia e qualidade do ar. No entanto, essa tecnologia também levanta preocupações em relação à privacidade e segurança dos dados. A transparência se torna essencial para garantir que os cidadãos compreendam como os dispositivos de IoT são utilizados, quais dados são coletados e com que finalidade.
A transparência permite que as pessoas tenham confiança no governo em relação à coleta e uso de dados, além de possibilitar uma maior participação e controle sobre a implementação da IoT nas cidades.
O estudo de caso do Sensor Register (sensores) de Amsterdã ilustra uma solução inovadora para aumentar a transparência no uso de sensores no espaço público. Por meio de um regulamento pioneiro, a cidade exige que todas as organizações relatem seus sensores e os tipos de dados coletados. Essas informações são disponibilizadas em um mapa online acessível ao público, permitindo que os cidadãos tenham conhecimento sobre os sensores instalados na cidade. Essa iniciativa visa proteger a privacidade dos cidadãos e incentivar um debate informado sobre o uso de tecnologias no espaço público.
As tendências globais em inovação governamental são um reflexo das mudanças e desafios enfrentados pelos governos em todo o mundo. O relatório traz as abordagens e exemplos como iniciativas positivas que buscam conectar inovação e responsabilidade, e evidencia que é um desafio de longa data para governos, uma vez que a aversão ao risco é um dos temas mais citados associados à inovação. Ao abordar questões como a responsabilidade algorítmica e sobre dispositivos de IoT e Governo Aberto, os governos avançam em direção a práticas mais transparentes, éticas e centradas no cidadão.
O relatório ainda traz que algumas discussões são possíveis sobre relação entre prestação de contas, supervisão e auditoria, bem como o potencial de inovação dentro das organizações do setor público. Há perguntas sobre como as estruturas de responsabilidade podem impulsionar a inovação em vez de dificultá-la, como manter a independência no processo de auditoria enquanto parcerias mais estreitas são estabelecidas, e como envolver os usuários nos processos de monitoramento e avaliação. São questões que a Divisão de Governo Aberto e Inovador da OCDE está explorando maneiras de preencher essa lacuna e expandir o campo de estudo.
Essa foi a primeira tendência apresentada no relatório, no próximo artigo da série abordarei a tendência de número 2, Novas abordagens de cuidado.
