Lançado o Guia de IA Generativa no Serviço Público

Hoje foi publicado pela Secretaria de Governo Digital (SGD) o guia para  apoiar servidores públicos no entendimento e uso responsável de ferramentas de Inteligência Artificial Generativa (IAG).

Essa cartilha apresenta os principais conceitos relacionados à IAG, as fases ou ciclos de desenvolvimento dos modelos de IAG, as características dos modelos de licença aberta e fechada, as tendências relacionadas a Geração Aumentada via Re cuperação - RAG (Retrieval-Augmented Generation), os princípios consitucionais no contexto do uso de IAG, os diferentes riscos e recomendações de uso de IAG nas atividades cotidianas do servidor público.

Segundo o Guia, a IAG é caracterizada por sistemas de inteligência artificial capazes de criar conteúdos como textos, imagens, áudios e vídeos a partir de comandos do usuário. Esses modelos aprendem padrões a partir de grandes volumes de dados, permitindo a geração de materiais que simulam a criação humana. No contexto governamental, há elevado potencial do usso dessa tecnologia para automatizar tarefas repetitivas, redigir documentos oficiais com maior qualidade e rapidez e desenvolver materiais visuais. Contudo, deve sempre haver a supervisão humana para garantir a precisão e a adequação das informações.

O desenvolvimento de modelos de IAG geralmente ocorre em duas fases principais: treinamento e produção. Na fase de Treinamento, o modelo é exposto a vastas quantidades de dados, como documentos e imagens, para identificar padrões e estruturas. Isso permite que o sistema aprenda e desenvolva a capacidade de gerar conteúdo relevante com base nos comandos recebidos.

Já na fase de Produção, que ocorre após o treinamento, o modelo é implementado em ambientes reais, onde é utilizado para executar tarefas específicas, como a criação de relatórios ou materiais informativos, auxiliando na tomada de decisões e na melhoria dos serviços públicos.

Existem duas abordagens para o uso de modelos de IAG, os Modelos de Licença Aberta que oferecem flexibilidade e permitem personalizações conforme as necessidades específicas do órgão público. No entanto, requerem investimentos em infraestrutura e equipe especializada para ajustes e manutenção. Os Modelos de Licença Fechada, que são soluções padronizadas fornecidas por empresas especializadas, facilitando a implementação e o suporte técnico. Embora possam ser menos flexíveis, geralmente oferecem desempenho otimizado em tarefas gerais.

Além desses modelos, uma tendência emergente no uso de IAG é a Geração Aumentada via Recuperação (RAG). Essa abordagem combina modelos generativos com sistemas de recuperação de informações, permitindo que o modelo acesse bases de dados específicas para gerar respostas mais precisas e contextualizadas. No serviço público, o RAG pode ser utilizado para fornecer informações atualizadas e relevantes aos cidadãos, melhorando a qualidade do atendimento.

O uso dos recursos de IAG requer a releitura do Princípios Constitucionais aplicados ao contexto de uso de IAG, sendo necessário esse alinhamento na implementação de soluções de IAG:

• Legalidade: As ações devem estar em conformidade com as leis vigentes.

• Impessoalidade: O uso da IAG deve servir ao interesse público, sem favorecimentos.

• Moralidade: As aplicações devem respeitar os padrões éticos e morais da sociedade.

• Publicidade: Transparência nas ações e decisões tomadas com o auxílio da IAG.

• Eficiência: O objetivo é aprimorar os serviços prestados ao cidadão, tornando-os mais ágeis e eficazes.

Houve também a preocupação durante a elaboração desse guia de enfatizar e concientizar os leitores quanto aos diferentes riscospara o Uso de IAG no Serviço Público :

• Reprodução de Vieses: Modelos treinados com dados tendenciosos podem perpetuar preconceitos. Recomenda-se uma avaliação criteriosa dos dados utilizados no treinamento.

• Segurança da Informação: A manipulação de dados sensíveis exige medidas robustas de proteção para evitar vazamentos e usos indevidos.

• Dependência Tecnológica: É importante capacitar servidores e desenvolver soluções que evitem a dependência excessiva de fornecedores externos.

Essa cartilha serve como referência para órgãos públicos durante o processo de contratação de soluções de IAG.

Deve-se portanto:

• Avaliar a Necessidade: Identificar se a solução proposta atende às demandas específicas do órgão.

• Analisar Custos e Benefícios: Considerar o retorno sobre o investimento e o impacto positivo nos serviços prestados.

• Garantir a Conformidade Legal: Assegurar que a solução esteja em conformidade com as legislações vigentes, incluindo aspectos de proteção de dados e privacidade.

• Priorizar a Transparência: Exigir que os fornecedores forneçam informações claras sobre o funcionamento dos modelos e as fontes de dados utilizadas.

Em resumo, a "Inteligência Artificial Generativa no Serviço Público" é uma ferramenta valiosa para orientar servidores na adoção responsável e eficaz da IAG, promovendo inovação e eficiência nos serviços públicos brasileiros.

Para acessar a íntegra do documento utilize esse link.

Prof. Cristiano Jorge Poubel de Castro