TRANSFORMAÇÕES NA GOVERNANÇA E NA GESTÃO DAS ORGANIZAÇÕES PÚBLICAS PARA IMPLANTAR SISTEMAS DE INTELIGÊNCIA ARTIFICIAL SEGUROS E QUE ATENDAM A PRINCÍPIOS ÉTICOS
governança da IA, regulação da IA, impactos da IA, IA responsável, IA ética, IA confiável.
O crescente número de benefícios trazidos pela inteligência artificial (IA) aplicados a produtos e serviços em todo o mundo, tem sido acompanhado por esforços de governos, de pesquisadores e de organizações para que os riscos do uso inadequado da tecnologia sejam mitigados. O desafio é potencializado pela diversidade de aplicações da IA, associada a um limitado conhecimento de seu alcance e da previsibilidade dos impactos produzidos nas pessoas, organizações e nações. A corrida pela regulação e governança global da IA tem sido muito forte no campo das discussões e ainda pouco materializada em legislação. O descompasso entre produção tecnológica e legislação tem sido compensado por variadas formas de soft law dispersas em abordagem e ainda requerendo muita integração e articulação para que efetiva governança ocorra em âmbitos nacionais e globais. Enquanto observam esse movimento desafiador para todos os stakeholders, organizações públicas que proveem ou tenham projetos de sistemas de IA, se deparam com a necessidade de se estruturarem para ofertar uma IA atendendo a requisitos de segurança e ética. Pesam sobre elas a responsabilidade de serviços públicos confiáveis, éticos e seguros para cidadãos que deles necessitam, sem terem o poder decisório na forma como tais serviços são construídos. A presente proposta de pesquisa pretende investigar, por meio de estudos de casos, como as organizações públicas têm incorporado as diretrizes apresentadas pela academia, pelos padrões internacionais e pela legislação, ao seu modelo de governança e de gestão na produção de sistemas de IA seguros e que atendam a princípios éticos. Pretende-se contribuir com um conhecimento mais preciso dos impactos que a IA tem causado no modelo de governança e de gestão das organizações públicas; identificação das dificuldades encontradas nessa implantação e como as organizações estão reagindo para superá-las; reduzir a lacuna de pesquisas sobre formas mais concretas de transformar as orientações filosóficas e determinações legais em processos e práticas de melhor compreensão e viável aplicação; encorajar organizações públicas a procurarem qualificação e as mudanças necessárias; preparar instituições públicas a mitigarem riscos do mau uso da IA que comprometam a democracia e a soberania nacional; e prover mais conhecimento à indústria de sistemas de IA sobre exigências que as instituições públicas utilizarão em suas contratações de sistemas de IA.