O que pede
Limitar o que o agente faz sozinho: ferramentas e permissões mínimas, aprovação humana para ações de alto impacto, autorização aplicada fora do modelo e registro.
Mapeamento de conformidade
OWASP LLM06, EU AI Act art. 14 e LGPD art. 46.
Onde uma decisão em tempo de execução sobre cada ação do agente ajuda em três requisitos comuns, e o que continua com você. O Vulnify não tem certificação e não torna ninguém conforme. Esta página não é aconselhamento jurídico.
OWASP Top 10 for LLM Applications: LLM06 Excessive Agency
Onde o Vulnify ajuda
Cada ação é decidida fora do modelo antes de rodar: PERMITIR, REVISAR ou BLOQUEAR, com nota de 0 a 100 e motivos. REVISAR espera outra pessoa. Um agente mudando as próprias permissões é sinalizado. Toda decisão vai para uma auditoria encadeada por hash.
O que fica com você
Restringir as ferramentas e credenciais do agente desde o início e escolher quais ações precisam de uma pessoa.
EU AI Act, Article 14: human oversight
O que pede
Sistemas de IA de alto risco devem permitir supervisão humana: entender a saída, decidir não usá-la, revertê-la e interromper o sistema.
Onde o Vulnify ajuda
REVISAR coloca uma pessoa identificada entre o agente e a ação, no app ou no Slack. Os motivos explicam cada decisão. BLOQUEAR e pausar ou desativar um agente o interrompem. O modo monitor deixa você observar antes de aplicar.
O que fica com você
Decidir se o seu sistema é de alto risco pela lei, designar supervisores capacitados e as demais obrigações (gestão de risco, documentação, conformidade).
LGPD, Art. 46: security measures
O que pede
Agentes de tratamento devem adotar medidas de segurança, técnicas e administrativas, para proteger dados pessoais de acessos não autorizados e de situações acidentais ou ilícitas de destruição, perda, alteração, comunicação ou difusão.
Onde o Vulnify ajuda
Dado pessoal saindo, exportações e exclusões em massa pontuam mais e podem ser bloqueados ou enviados para revisão. O conteúdo é verificado em busca de dados pessoais, com peso extra para dado sensível do art. 11 (o conteúdo em si não é guardado). Modelos de política LGPD gratuitos. Exportação da auditoria em JSON ou CSV com checksum SHA-256.
O que fica com você
A sua base legal, o registro das operações, os pedidos dos titulares, o encarregado e todos os controles que não tratam de ações de agentes.
A pontuação por trás dessas decisões é pública.