O essencial
- A OWASP relaciona autonomia excessiva a funções, permissões e ações além do necessário.
- Autorizações devem ser verificadas no sistema que executa a operação.
- Um começo possível é consultar dados e preparar propostas para revisão, com escopo delimitado.
Uma resposta passa a produzir consequências
Quando um assistente ganha acesso a ferramentas, sua saída pode alterar registros, enviar mensagens ou acionar sistemas. Na classificação de riscos para aplicações com modelos de linguagem de 2025, a OWASP chama de Excessive Agency a possibilidade de ações danosas provocadas por saídas inesperadas, ambíguas ou manipuladas. As causas incluem funções disponíveis em excesso, permissões amplas e autonomia desnecessária.
A organização recomenda reduzir essas três dimensões e verificar a autorização nos sistemas que recebem as chamadas. A implicação prática para gestores é perguntar quais operações o agente realmente precisa executar. Ter acesso a uma plataforma inteira porque a integração é conveniente aumenta o alcance de uma falha, mesmo quando a tarefa original é pequena.
Separe consulta, preparação e execução
Como desenho inicial, recomendamos distinguir três capacidades: consultar informação, preparar uma proposta e executar a operação. Uma equipe pode liberar a primeira sem liberar as demais. Ao ampliar o escopo, explicite responsável, destino, limites e situações que exigem revisão. Essa separação é uma proposta de implementação, não um resultado de segurança medido pela Peapply.
- Inventarie as ferramentas e remova operações que a tarefa não exige.
- Conceda acesso apenas aos dados e ambientes necessários, com identidade identificável.
- Nas ações de maior impacto, mostre a operação e seus parâmetros antes da aprovação.
- Defina limites de volume, registro de eventos e uma forma de interromper o agente.
Trate documentos externos como dados a verificar
A orientação da OWASP sobre prompt injection descreve instruções maliciosas inseridas em páginas, arquivos e mensagens que a aplicação consulta. Também recomenda validar parâmetros e permissões fora do modelo. Uma instrução no prompt para agir com cuidado não substitui esse controle na ferramenta que efetivamente envia, grava ou apaga algo.
Antes da liberação, recomendamos testar as fronteiras com dados sem valor operacional e ferramentas isoladas. Observe se a aplicação tenta alcançar outro destinatário, ampliar acesso ou executar uma ação não solicitada. Registre também tarefas legítimas bloqueadas indevidamente. Passar por alguns exemplos demonstra apenas o comportamento observado naquele conjunto; não comprova resistência a todos os ataques.
Fontes e referências
Texto produzido com apoio de IA e conferência das fontes indicadas. Recomendações e interpretações são identificadas como análise da Redação Peapply. Conheça nossa política editorial.
Sugerir uma correção