LM-Sys FastChat <= 0.2.36 Content Moderation Bypass (CVE-670)

バグサマリー：LM-Sys FastChat <= 0.2.36 におけるコンテンツモデレーションの回避 (CVE-670) 脆弱性概要 LM-Sys Fastchatプラットフォーム（Anonymous Arena および Vision Arenas モードを含む）に、コンテンツモデレーションの回避脆弱性が存在します。一部のモジュールにおいて、コピー＆ペースト時の誤りにより、コードは ではなく を誤って参照しています。これにより、会話全体のコンテキストがユーザーの短い入力メッセージに置き換えられ、会話履歴のチェックをバイパスできるようになります。 影響範囲 影響を受けるバージョン：LM-Sys Fastchat <= 0.2.36 影響を受けるモジュール： - - - 脆弱性の種類：コンテンツモデレーションの回避、セキュリティポリシー違反 修正方法 コード内で誤って使用されている を、正しい に置き換えることで、モデルBの生成履歴が正しく読み込まれるようにします。 POCコード 攻撃手順 1. FastChat Anonymous Arena (Battle) または Vision Anonymous Arena のウェブインターフェースに移動します。 2. 複数ラウンドの対話を開始します。まず、両方のモデルにモデレーションの境界にほぼ触れるが成功するコンテンツを生成させるプロンプトを送信します。 3. 2ラウンド目で、短い良性のフォローアッププロンプト（例：「もっと教えて」または「続行」）を送信します。バックエンドはモデルBの先行コンテキストをチェックせずに短いプロンプトを評価するため、コンテンツモデレーションフィルターが履歴ウィンドウを破棄し、ポリシーに重大に違反したコンテキストが無限に持続可能となります。 被害 コンテンツモデレーションの回避：モデルBの履歴を完全に無視するため、ポリシーに重大に違反したコンテキストが無限に持続します。 セキュリティポリシー違反：ユーザーは制限のない有害なテキストや画像を生成でき、複数ラウンドにわたるセッションでフィルターを安全にバイパスできます。

目標達成 すべての支援者に感謝 — 100%達成しました！

LM-Sys FastChat <= 0.2.36 Content Moderation Bypass (CVE-670)

目標達成すべての支援者に感謝 — 100%達成しました！