Defesa contra ameaças

O Threat Defense fornece proteção em tempo real contra ataques maliciosos, jailbreaks, vazamentos de instruções e manipulação de saída.

Vetores de ameaças protegidos

Ameaça	Descrição
Injeção imediata	Tentativas de substituir ou ignorar instruções e restrições do sistema.
Jailbreaks	Alertas adversários projetados para contornar as grades de segurança.
Instrução/Vazamento de prompt do sistema	Ataques de extração que tentam revelar instruções proprietárias.
Desvio de função/seqüestro	Manipular o assistente para se desviar do domínio de negócios pretendido.
Ataques de extração de dados	Tentativas automatizadas de coletar dados confidenciais de treinamento ou índice.
Vazamentos de token canário	Detecção de strings canário ocultas sinalizando exposição de instruções.

Avalia cada prompt recebido antes de chegar ao modelo de linguagem:

Permitir: a solicitação passa em todas as verificações de segurança.
Sinalizador: a solicitação é permitida, mas registrada como um evento de segurança para análise administrativa.
Bloquear: a solicitação é bloqueada imediatamente com um evento de negação assinado.

Monitora os resultados do modelo antes da entrega ao cliente para capturar:

Os tokens canários são marcadores criptográficos ocultos exclusivos inseridos nas instruções do chatbot:

Como funciona: Se um invasor conseguir extrair instruções, o marcador canário na resposta aciona um alerta de segurança imediato de alta prioridade.
Configuração: Vá para Admin ? Defesa contra ameaças? Canary Tokens para gerar, girar ou monitorar tokens.

Configurar políticas: Vá para Admin ? Defesa contra ameaças? Políticas. Selecione entre Estrito (chatbots públicos), Equilibrado (uso empresarial padrão) ou Permissivo (ambientes de teste).
Revisar Incidentes: Inspecione eventos sinalizados ou bloqueados em Admin ? Defesa contra ameaças? Incidentes para analisar cargas de ataque e ajustar a sensibilidade.