> ## Documentation Index
> Fetch the complete documentation index at: https://docs.hiperai.com/llms.txt
> Use this file to discover all available pages before exploring further.

# 脅威防御

# 脅威防御

Threat Defense は、悪意のあるプロンプト攻撃、ジェイルブレイク、命令漏洩、出力操作に対するリアルタイムの保護を提供します。

***

## 保護された脅威ベクトル

| 脅威                    | 説明                                 |
| --------------------- | ---------------------------------- |
| **即時注入**              | システムの命令と制約をオーバーライドまたはバイパスしようとします。  |
| **脱獄**                | 安全ガードレールを回避するように設計された敵対的なプロンプト。    |
| **命令/システム プロンプト リーク** | 独自の命令を明らかにしようとする抽出攻撃。              |
| **ロールドリフト/ハイジャック**    | アシスタントを操作して、意図したビジネス領域から逸脱させること。   |
| **データ抽出攻撃**           | 機密トレーニングまたはインデックス データの収集を自動的に試みます。 |
| **カナリアトークンの漏洩**       | 命令の漏洩を知らせる隠れたカナリア文字列の検出。           |

***

## キーモジュール

### 1. プロンプトシールドエンジン

受信プロンプトが言語モデルに到達する前に、すべてのプロンプトを評価します。

* **許可**: リクエストはすべての安全性チェックに合格しました。
* **フラグ**: リクエストは許可されますが、管理レビューのためにセキュリティ イベントとして記録されます。
* **ブロック**: リクエストは、署名された拒否イベントにより直ちにブロックされます。

### 2. 出力ガードレール

クライアントに配信する前にモデルの出力を監視して、以下をキャッチします。

* システム プロンプトと内部コンテキストの漏洩。
* カナリアトークンの漏洩。
* 意図しない役割のドリフトまたは危険な出力。

### 3. カナリアトークン

カナリア トークンは、チャットボットの命令に挿入される固有の隠された暗号マーカーです。

* **仕組み**: 攻撃者が命令の抽出に成功すると、応答内のカナリア マーカーにより、即時に優先度の高いセキュリティ アラートがトリガーされます。
* **設定**: **管理者に移動しますか?脅威防御? Canary トークン**: トークンを生成、ローテーション、または監視します。

***

## ポリシー構成とインシデント管理

1. **ポリシーの構成**: **管理者に移動しますか?脅威防御?ポリシー**。 **厳密** (パブリック チャットボット)、**バランス** (標準的な企業使用)、**寛容** (テスト環境) から選択します。
2. **インシデントの確認**: **管理者の下でフラグが設定されたイベントまたはブロックされたイベントを検査します。脅威防御?インシデント** を使用して攻撃ペイロードを分析し、感度を調整します。