reasongate

ReasonGate LLMに入力されるテキストとLLMから出力されるテキストを検査し、説明可能なallow / flag / blockの判定と、呼び出しごとの機械可読な監査記録を返す、セルフホスト可能なゲートです。 これは何か オープンソースのコアはルールベースです。次の4つのことを行います: 既知のプロンプトインジェクションおよびジェイルブレイクの言い回しを認識する、 一般的な回避手法（ゼロ幅文字、ホモグリフ、リートスピーク、文字間隔、base64）を難読化解除し、それらの既知の言い回しが偽装された後でも一致するようにする、...