FUNDAMENTOS · ENTERPRISE AI · 03

Segurança

Proteger dados, ferramentas e ações quando software passa a interpretar e decidir dinamicamente.

8 min de leitura

Agentes ampliam a superfície de ataque.

Sistemas de IA processam conteúdo não confiável, chamam ferramentas e podem agir em nome de usuários. Isso introduz riscos como prompt injection, tool misuse, exfiltração de dados e excesso de privilégio.

Segurança precisa ser aplicada em múltiplas camadas: identidade, autorização, validação, isolamento, secrets, políticas e monitoramento.

IDENTIDADE

Quem está executando esta ação?

Cada chamada sensível deve carregar identidade e contexto suficientes para aplicar autorização.

AUTHENTICATION

Verifica identidade de usuário, serviço ou agente.

AUTHORIZATION

Define quais recursos e ações aquela identidade pode acessar.

LEAST PRIVILEGE

Concede apenas permissões necessárias para a tarefa.

SECRETS

Protege credenciais e evita expô-las ao modelo.

PROMPT INJECTION

Conteúdo também pode ser entrada maliciosa

Documentos, páginas e mensagens podem tentar manipular o comportamento do agente. Conteúdo recuperado deve ser tratado como dado, não como autoridade.

Políticas críticas devem ser implementadas fora do modelo.

AÇÕES

Quanto maior o impacto, maior o controle

Leitura pode exigir menos controle que transferência financeira ou alteração de cadastro. Risk-based approval ajuda a graduar autonomia.

Auditoria deve registrar ações e identidade responsável.

NA PRÁTICA

Tool financeira

Agente solicita pagamento → autenticação → autorização → limite → aprovação humana → auditoria

Uma instrução do modelo nunca deve substituir controles de identidade, autorização e políticas.

PRINCÍPIO

Prompts orientam comportamento; controles de segurança determinam o que realmente é permitido.

PRÓXIMO CONCEITO

Governança

Entenda como políticas, ownership, risco e responsabilidade tornam IA operável em escala.

Continuar →