Tudo sobre dados, negócios, tecnologia e inovação.

A inteligência artificial generativa deixou de ser um experimento de laboratório para se tornar um recurso operacional em empresas de todos os setores. Modelos de linguagem de grande escala (LLMs, como o ChatGPT, Gemini e Claude,), ferramentas de geração de código e agentes autônomos são hoje embarcados em fluxos de trabalho que processam contratos, dados financeiros, informações de clientes e propriedade intelectual corporativa.

Se por um lado ela tem facilitado processos, por outro, sua escalada tem acontecido em uma velocidade superior ao controle que lhe é necessário. Em 2023, uma pesquisa global do Salesforce revelou que mais de 50% dos colaboradores utilizavam ferramentas de IA no ambiente de trabalho sem aprovação formal de suas organizações; um fenômeno conhecido como Shadow AI.

Essa realidade cria uma superfície de ataque invisível para os times de segurança: dados sensíveis são enviados a modelos externos, prompts contêm informações pessoais identificáveis (PII) e as respostas geradas pela IA fundamentam decisões críticas sem qualquer trilha de auditoria.

É importante frisar que não há nada de hipotético nesse risco que, aliás, vai muito além do campo de gestão e pode atingir o bolso em cheio. Em 2025, o custo médio global de um vazamento de dados atingiu US$ 4,4 milhões, segundo o relatório Cost of a Data Breach da IBM. Parte significativa desse custo deriva de incidentes facilitados por ferramentas de IA não governadas.

Este artigo apresenta as bases técnicas e estratégicas para implementar uma governança de IA robusta, alinhada à LGPD e aos principais frameworks globais.

Por que a governança de dados tradicional não basta para a IA?

Organizações com programas maduros de governança de dados costumam subestimar a complexidade adicional introduzida por sistemas de IA. A premissa de que "se os dados estão governados, a IA também está" é tecnicamente incorreta e operacionalmente perigosa.

O ciclo de vida dos modelos cria riscos dinâmicos

Um modelo de IA não é um relatório estático. Ele é um artefato computacional vivo que atravessa múltiplas fases, cada uma com sua própria superfície de risco:

• Fase de treinamento: Os dados utilizados para treinar ou fazer o fine-tuning de um modelo podem conter PII, vieses sistêmicos ou informações confidenciais. Uma vez memorizado pelo modelo, esse conteúdo pode ser extraído por concorrentes por meio de ataques de extração (model extraction attacks).
• Fase de inferência: Cada prompt enviado a um LLM externo é uma transmissão de dados. Caso esse prompt contenha dados pessoais de clientes, propriedade intelectual ou informações estratégicas, a organização pode estar em violação do Art. 7º da LGPD, que exige base legal para o tratamento de dados pessoais.
• Desvio de Modelo (Model Drift): Modelos degradam ao longo do tempo. Sem monitoramento contínuo, as decisões apoiadas por IA tornam-se progressivamente menos precisas e mais enviesadas, sem que os operadores humanos percebam. Isso compromete a confiabilidade de produtos, avaliações de crédito, triagens médicas e qualquer processo decisório automatizado.

A governança de dados tradicional opera sobre dados em repouso e em trânsito. A governança de IA opera sobre comportamento computacional dinâmico; um domínio que exige controles específicos, como auditoria de prompts, monitoramento de outputs e versionamento de modelos.

A responsabilização jurídica dos administradores

A LGPD (Lei 13.709/2018) e as resoluções da ANPD (Agência Nacional de Proteção de Dados) estabelecem responsabilidades para os controladores e operadores de dados. Quando um sistema de IA processa dados pessoais, o administrador que autorizou ou permitiu esse uso assume a responsabilidade pelo tratamento, independentemente de ter sido realizado por um ser humano ou por um algoritmo.

O Art. 52 da LGPD prevê sanções que vão desde advertências até multas de 2% do faturamento bruto, limitadas a R$ 50 milhões por infração. Em contextos de uso não governado de IA, a materialização dessas sanções deixou de ser um cenário remoto.

PII em LLMs: o problema que a maioria das empresas ainda ignora

Informações Pessoais Identificáveis (PII) em modelos de linguagem representam uma das fronteiras mais críticas (e menos compreendidas) da segurança corporativa atual.

Como PII entra nos modelos?

• Colaboradores colam conteúdo de contratos com dados de clientes em ferramentas de IA para análise ou resumo.
• Sistemas de CRM integrados a LLMs transmitem histórico de interações contendo CPF, endereço e informações financeiras.
• Chatbots corporativos treinados com bases de dados internas memorizam informações que deveriam ser restritas.
• Automações de RH processam currículos e avaliações de desempenho por meio de APIs de terceiros.

Em cada um desses cenários, os dados pessoais podem ser retidos nos logs da plataforma, utilizados para retreinamento do modelo (dependendo dos termos de serviço do fornecedor) ou expostos em ataques de prompt injection.

Zero Retention, Anonimização e Auditoria de Prompts: controles não negociáveis

Para organizações que operam sob a LGPD, três políticas técnicas são essenciais:

• Zero Retention Policy: Contratação exclusiva de provedores de LLM que garantem contratualmente não reter dados de prompts e respostas para fins de treinamento. Isso deve constar em um Data Processing Agreement (DPA) específico, conforme orientação da ANPD.
• Anonimização e Pseudonimização: Implementação de pipelines de pré-processamento que removem ou substituem PII antes do envio ao modelo. Técnicas como tokenização determinística e supressão baseada em NER (Named Entity Recognition) são as mais eficazes para dados estruturados e não estruturados, respectivamente.
• Auditoria de Prompts: Registro imutável de todos os prompts enviados e respostas recebidas, com mascaramento de dados sensíveis. Esse log é fundamental tanto para fins de conformidade quanto para a investigação de incidentes.

Frameworks globais de Governança de IA: por que seu board deveria conhecer?

A ausência de um framework estruturado é, em si, um risco. Organizações que operam sistemas de IA sem referência a padrões reconhecidos internacionalmente estão expostas a lacunas que auditores, reguladores e parceiros comerciais podem identificar progressivamente.

Conheça, abaixo, os principais frameworks globais:

NIST AI Risk Management Framework (AI RMF)

O NIST AI RMF, publicado pelo National Institute of Standards and Technology dos EUA, é o framework de referência para gestão de riscos em IA e está estruturado em quatro funções interdependentes:

• Mapear (Map): Identificar o contexto organizacional, as partes interessadas afetadas pelos sistemas de IA e os riscos potenciais associados ao seu uso.
• Medir (Measure): Quantificar e analisar os riscos identificados, utilizando métricas técnicas (como taxas de erro, viés e drift) e métricas de impacto nos negócios.
• Gerenciar (Manage): Implementar controles para mitigar, transferir ou aceitar riscos, com planos de resposta a incidentes e protocolos de escalada.
• Governar (Govern): Estabelecer a estrutura organizacional (políticas, responsabilidades, treinamentos e cultura) que sustenta as demais funções de forma contínua.

A adoção do NIST AI RMF como base operacional permite que organizações demonstrem maturidade em IA para reguladores, investidores e clientes.

ISO/IEC 42001: o padrão ouro para sistemas de gestão de IA

Publicada em 2023, a ISO/IEC 42001 é a primeira norma internacional que especifica os requisitos para um Sistema de Gestão de Inteligência Artificial (AIMS, ou AI Management System). Ela segue a estrutura de alto nível das normas ISO, facilitando sua integração com ISO 27001 (segurança da informação) e ISO 9001 (qualidade).

Para organizações que buscam certificação ou que precisam demonstrar conformidade a parceiros internacionais, a ISO/IEC 42001 representa o referencial mais robusto disponível. Seus requisitos abrangem o ciclo de vida completo dos sistemas de IA, desde o design até a descontinuação, incluindo obrigações de transparência, impacto e controle de riscos.

AI TRiSM do Gartner: confiança como vantagem competitiva

O Gartner introduziu o conceito de AI TRiSM (AI Trust, Risk, and Security Management) como uma das principais tendências tecnológicas para os próximos anos. A premissa é que organizações que implementam controles de confiança, risco e segurança em seus sistemas de IA obterão resultados de negócio significativamente superiores.

Os quatro pilares do AI TRiSM são:

• Explicabilidade (Explainability): Capacidade de interpretar e justificar as decisões dos modelos de IA para usuários, auditores e reguladores.
• ModelOps: Governança operacional do ciclo de vida dos modelos — versionamento, monitoramento, retreinamento e descontinuação controlada.
• Privacidade de Dados: Controles técnicos e contratuais para proteger dados pessoais em todo o pipeline de IA.
• Segurança Adversarial: Defesas contra ataques específicos de IA, como prompt injection, jailbreak, data poisoning e model extraction.

Segundo o Gartner, organizações que operacionalizam o framework AI TRiSM até 2026 alcançarão uma melhoria de 50% na adoção e metas de negócios, consumindo pelo menos 50% menos informações imprecisas ou ilegítimas.

Análise comparativa: IA sem governança vs. IA com governança

Operar sistemas de IA sem governança estruturada expõe a organização a um conjunto de riscos simultâneos e mensuráveis:

Riscos da operação sem governança

• Exposição a vazamentos: dados sensíveis trafegam para modelos externos sem controle, rastreabilidade ou base legal definida.
• Não conformidade com a LGPD/ANPD: a ausência de controles formais configura tratamento irregular de dados pessoais, com risco de sanções de até R$ 50 milhões por infração.
• Custo elevado de incidentes: sem detecção precoce, o custo médio de um vazamento atingiu US$ 4,4 milhões em 2025, segundo a IBM.
• Decisões sem rastreabilidade: modelos operam como caixas-pretas, sem logs de prompts nem versionamento, inviabilizando auditorias e investigações.
• Drift silencioso: sem monitoramento contínuo, a precisão dos modelos degrada progressivamente sem que os operadores percebam.
• Shadow AI descontrolada: 70% dos colaboradores já usam IA sem aprovação formal, criando uma superfície de risco invisível para os times de segurança.
• Reputação vulnerável: a ausência de accountability expõe a organização a crises públicas, litígios e perda de confiança de clientes e parceiros.

O que muda com a governança de IA

• Isolamento de dados: uma camada de intermediação impede que dados sensíveis cheguem aos modelos sem filtragem, anonimização e base legal documentada.
• Conformidade contínua: auditoria de prompts, logs imutáveis e DPAs alinhados à ANPD garantem evidências de conformidade em tempo real.
• Redução do custo de incidentes: detecção precoce e resposta estruturada diminuem significativamente o impacto financeiro e operacional de eventuais falhas.
• Rastreabilidade total: versionamento de modelos e registro de prompts permitem auditar qualquer decisão apoiada por IA.
• Monitoramento de drift: alertas automáticos e ciclos de retreinamento controlado mantêm a confiabilidade dos modelos ao longo do tempo.
• Shadow AI mapeada: políticas de uso aceitável (AUP) e inventário de ferramentas eliminam o uso não autorizado de IA na organização.
• Reputação protegida: transparência, accountability e documentação estruturada fortalecem a confiança de reguladores, investidores e clientes.

Como funciona a implementação prática de governança de IA?

A implementação de programas de Governança de IA que integram os frameworks NIST AI RMF, ISO/IEC 42001 e AI TRiSM em uma arquitetura operacional pode ser adaptada à realidade de cada organização. Esta atuação ocorre essencialmente em três camadas:

1. Isolamento e Segurança de Dados

Projetar e implementar uma camada de intermediação entre os dados corporativos e os modelos de IA, composta por:

• Proxies de API com inspeção e filtragem de PII em tempo real antes do envio ao LLM.
• Pipelines de anonimização e pseudonimização baseados em NER e expressões regulares customizadas para o vocabulário do cliente.
• Contratos de Zero Retention negociados com fornecedores de LLM, acompanhados de DPAs alinhados às exigências da LGPD e da ANPD.
• Monitoramento contínuo de outputs para detecção de vazamento inverso (quando o modelo devolve dados que não deveria exibir).

2. Auditoria de Prompts e Rastreabilidade

Implementar sistemas de logging imutável de prompts e respostas com:

• Classificação automática de sensibilidade por categoria de dado (financeiro, médico, jurídico, RH).
• Integração com SIEMs corporativos para correlação de eventos de segurança.
• Dashboards de governança para os executivos, com visibilidade em tempo real do uso de IA na organização.
• Relatórios de conformidade automatizados para fins de evidência junto à ANPD.

3. Implementação de Frameworks e Gestão de Riscos

Gerenciar o processo completo de adoção dos frameworks globais, incluindo:

• Assessment de maturidade em IA baseado no NIST AI RMF, com a identificação de lacunas e priorização de controles.
• Roadmap de adequação à ISO/IEC 42001 com entregas mensuráveis e cronograma executivo.
• Treinamento de equipes técnicas e de negócio em uso seguro e responsável de IA.
• Criação e implementação de políticas de uso aceitável de IA (AUP, ou Acceptable Use Policy) para combater a Shadow AI.
• Simulações de incidentes e exercícios de resposta específicos para ambientes de IA.

FAQ: Perguntas frequentes sobre governança de IA e LGPD

O que é Governança de IA?

Governança de IA é o conjunto de políticas, processos, controles técnicos e responsabilidades organizacionais que garantem que os sistemas de Inteligência Artificial operem de forma segura, transparente, ética e em conformidade com as regulamentações aplicáveis, como a LGPD no Brasil. Ela abrange o ciclo de vida completo dos modelos, desde o treinamento até a descontinuação, e envolve funções como DPO, CTO, áreas jurídicas e de segurança da informação.

O que é Governança de Dados no contexto da IA?

Governança de Dados no contexto da IA é a disciplina que define como os dados utilizados para treinar, ajustar e operar sistemas de IA são coletados, armazenados, rotulados, protegidos e descartados. Ela complementa, mas não substitui a Governança de IA, pois os dados são apenas um dos elementos que compõem o risco total de um sistema de Inteligência Artificial.

Como a LGPD se aplica ao uso de IA com dados pessoais?

A LGPD se aplica diretamente ao uso de IA quando esse uso envolve o tratamento de dados pessoais de titulares brasileiros. Isso inclui o treinamento de modelos com dados de clientes, o processamento de informações pessoais via prompts enviados a LLMs externos e a geração de decisões automatizadas com efeito sobre pessoas. O controlador é responsável por garantir base legal para o tratamento, implementar medidas de segurança adequadas e responder às solicitações de titulares, sob pena das sanções previstas no Art. 52 da LGPD.

Conclusão: governança de IA como ativo estratégico

Com os altos custos gerados por vazamento de dados, sanções regulatórias de até R$ 50 milhões por infração e a crescente exposição criada pela Shadow AI, a ausência de governança representa um passivo financeiro e reputacional mensurável; não uma posição de neutralidade.

Frameworks como o NIST AI RMF, a ISO/IEC 42001 e o AI TRiSM do Gartner oferecem os fundamentos técnicos e metodológicos para transformar o uso de IA de um vetor de risco em um diferencial competitivo sustentável. Mas, sobretudo, a atuação de uma consultoria especializada é fundamental para uma governança segura e confiável.

Implementar uma Governança de IA, hoje, vai muito além de uma vantagem competitiva; é uma medida estratégica de quem compreende que segurança e reputação corporativa são valores inegociáveis.

Alinhe sua empresa às melhores práticas de Governança de IA

Agora que você entendeu a importância de uma governança de IA bem estruturada, que tal dar o próximo passo? A Stalse está pronta para conduzir sua organização nesse processo, com todo rigor técnico, clareza estratégica e resultados auditáveis.

Entre agora em contato conosco clicando aqui.

Leia também - Agentes de IA para empresas: a vantagem competitiva que está redefinindo o mercado