Sessão CTI: Alertas adversários. Ferramentas de código aberto que detectam, caçam e bloqueiam IoPCs

A IA generativa agora está incorporada aos fluxos de trabalho de negócios, juntamente com avisos maliciosos. Prompts adversários, ou indicadores de compromisso imediato (IoPCs), revelam tentativas de explorar, abusar ou manipular modelos de IA para fins maliciosos. Junte-se a Thomas Roccia, pesquisador de ameaças, autor e palestrante, para explorar como as equipes de segurança podem detectar e se defender contra essas ameaças emergentes usando ferramentas de código aberto que ele criou.

Você aprenderá:

• O que torna os prompts adversários perigosos: como os IoPCs diferem dos IoCs tradicionais e as técnicas que os invasores usam para explorar os LLMs
• Como detectar prompts maliciosos com NOVA: uma ferramenta de detecção baseada em Python usando palavras-chave, semântica e correspondência baseada em LLM para identificar padrões adversários
• Como compartilhar inteligência com PromptIntel: uma nova plataforma comunitária para enviar, verificar e compartilhar IoPCs do mundo real com regras de detecção

Aprenda técnicas práticas para operacionalizar ferramentas de código aberto e compartilhar inteligência, para que você possa detectar e bloquear solicitações adversárias antes que elas afetem seus sistemas.