TRANSFORMAÇÕES NA GOVERNANÇA E NA GESTÃO DAS ORGANIZAÇÕES PÚBLICAS PARA IMPLANTAR SISTEMAS DE INTELIGÊNCIA ARTIFICIAL QUE CONSIDEREM PRINCÍPIOS ÉTICOS
Governança de IA, Regulação de IA, IA responsável, Ética na IA, IA nas organizações públicas, Fuzzy QCA.
A corrida pela regulação e governança global da inteligência artificial (IA) tem desafiado pesquisadores, gestores, juristas, legisladores e a própria sociedade. Enquanto observam esse movimento, organizações públicas que produzem sistemas de IA, se deparam com a necessidade de se estruturarem para que seus sistemas de IA considerem princípios éticos. A presente pesquisa teve como objetivo investigar se as organizações públicas têm incorporado as diretrizes apresentadas pela academia, pela legislação e pelos padrões internacionais, ao seu modelo de governança e de gestão na produção de sistemas de IA que considerem princípios éticos, e como tal fenômeno tem ocorrido. Em uma primeira etapa, a investigação iniciou com pesquisa bibliográfica na literatura especializada sobre regulação e governança de IA, a qual fundamentou o desenho do framework AIR – Artificial Intelligence Regulation – reunindo instituições públicas e privadas de um país para a regulação e governança de IA, destacando os benefícios da combinação entre hard law e soft law nesse desafio. Em uma segunda etapa, buscou-se legislação, padrões internacionais, estratégias, políticas e guias de princípios éticos para uso e desenvolvimento de sistemas de IA elaborados por organizações governamentais. Questionário e roteiro de entrevista foram construídos e submetidos à avaliação por uma banca de juízes, seguida de pré-testes. Foram elaboradas onze proposições sobre os processos e práticas recomendados pela academia, pela legislação em discussão e pelos padrões internacionais para implantação da governança de IA. Procedeu-se uma busca em organizações públicas que tivessem sistemas de IA em operação, resultando em amostra composta de vinte e oito organizações públicas, distribuídas em dezessete países, envolvendo os poderes Executivo, Legislativo e Judiciário. Questionários foram aplicados e entrevistas realizadas, após acordo de profissionais com perfil mais adequado à pesquisa de cada organização da amostra. Com objetivo exploratório e descritivo, em uma abordagem qualitativa e quantitativa, foi utilizado o método Quanlitative Comparative Analysis (QCA), nos modos crisp-set e fuzzy, a partir das respostas de questionários, cujos resultados foram complementados com análise de conteúdo das entrevistas e documentos disponibilizados pelas organizações e pelos governos aos quais elas pertencem. Os resultados permitiram identificar na amostra estudada como processos e práticas dirigidos à aplicação de princípios éticos na produção de sistemas de IA, têm sido combinados e internalizados nos modelos de governança e de gestão de organizações públicas; como utilizaram habilitadores no auxílio da implantação da governança de IA; e como enfrentaram as dificuldades nessa jornada. Os resultados também fundamentaram a elaboração do framework AIGov4Gov que apresenta como os processos e práticas se distribuem em uma organização pública para implantar sua própria governança de IA, unindo unidades de negócio e unidade de TI. E no propósito da governança de IA, como organizações públicas se relacionam com órgãos de governo para padronização, assim como se relacionam com empresas parceiras e terceirizadas para a produção de sistemas de IA em atendimento a princípios éticos. Como contribuição aos gestores e pesquisadores, além do conhecimento das transformações identificadas nas organizações, a pesquisa apresentou um modelo integrado de processos e práticas de governança e de gestão, que se estendem do nível estratégico até o nível operacional de uma organização pública para implantação da sua governança de IA; de maneira que ela possa se inserir na governança de IA de seu país, e, assim, somar ao movimento global de governança de IA.