Módulo 23 · AI Security: prompt injection e guardrails
Prompt injection, agente com permissão demais, shadow AI, política de uso na empresa e como travar ações destrutivas. O módulo que os cursos de IA não têm. Segurança
O que você aprende · 13 aulas
- Superfície de ataque de um sistema com LLM
- OWASP Top 10 para LLM e para aplicações agênticas
- Prompt injection direta
- Prompt injection indireta: documentos, páginas e e-mails
- Vazamento de prompt de sistema e de dados
- Exfiltração por ferramentas e tratamento inseguro de saída
- Agência excessiva e consumo sem limite
- Shadow AI e política de uso de IA
- Guardrails: filtros de entrada e de saída
- Privilégio mínimo: ferramentas, dados e ações
- Aprovação humana e sandbox
- Registro e auditoria de ações do agente
- Laboratório: ataque de prompt injection ao próprio agente e correção
Termos que este módulo explica
Projeto da etapa ProtejaSeu app e seu agente blindados: chaves fora do código, acesso ao banco fechado, prompt injection travado, backup restaurado de verdade, alerta de queda funcionando e a conformidade com a LGPD documentada. O que nenhum curso de IA entrega.