威胁防御
威胁防御提供针对恶意即时攻击、越狱、指令泄漏和输出操纵的实时保护。受保护的威胁向量
关键模块
1.提示盾引擎
在每个传入提示到达语言模型之前对其进行评估：- 允许：请求通过所有安全检查。
- 标记：请求被允许，但记录为安全事件以供管理审查。
- 阻止：通过签名的拒绝事件立即阻止请求。
2.输出护栏
在交付客户之前监控模型输出以捕获：- 系统提示和内部上下文泄漏。
- 金丝雀令牌泄漏。
- 意外的角色漂移或危险的输出。
3. 金丝雀代币
金丝雀令牌是插入聊天机器人指令中的独特的隐藏加密标记：- 工作原理：如果攻击者成功提取指令，响应中的金丝雀标记会立即触发高优先级安全警报。
- 配置：转到管理员？威胁防御？金丝雀代币 用于生成、轮换或监控代币。
策略配置和事件管理
- 配置策略：转到管理员？威胁防御？政策。从严格（公共聊天机器人）、平衡（标准企业用途）或宽松（测试环境）中进行选择。
- 查看事件：检查 Admin 下标记或阻止的事件？威胁防御？事件 用于分析攻击负载并调整灵敏度。