bordair-detector

Bordair Detector 一个针对 LLM 输入中提示注入和越狱尝试的两阶段检测器。正则表达式门控在不触碰模型的情况下处理大多数易判别的流量；任何模糊的输入都会落到以 ONNX 运行的量化 DeBERTa-v3 分类器上。同一引擎覆盖图像、文档和音频输入，因此无论注入通过哪个通道到达，都会被捕获。 它基于 Bordair Multimodal 数据集（超过 500,000 个标注样本）进行训练，并针对从真实对抗性尝试中收集的样本进行了测试，这些尝试来自一个实时游戏，人类玩家竞相击败该检测器。 模型权重：Hugging Face Hub 上的...