rebuff

Rebuff.ai 자가 강화형 프롬프트 인젝션 탐지기 Rebuff는 다중 계층 방어를 통해 AI 애플리케이션을 프롬프트 인젝션PI 공격으로부터 보호하도록 설계되었습니다. Playground • Discord • 기능 • 설치 • 시작하기 • 셀프 호스팅 • 기여 • 문서 면책 조항 Rebuff는 아직 프로토타입이며 프롬프트 인젝션 공격에 대해 100% 보호를 제공할 수 없습니다! 기능 Rebuff는 4가지 방어 계층을 제공합니다: 휴리스틱: 잠재적으로 악의적인 입력이 LLM에 도달하기 전에 걸러냅니다. LLM 기반 탐지: 전용...

Enhancing Security in LLM Applications: a Performance Evaluation of Early Detection Systems

Prompt injection threatens novel applications that emerge from adapting LLMs for various user tasks. The newly developed LLM-based software applications become more ubiquitous and diverse. However, the threat of prompt injection attacks undermines the security of these systems as the mitigation a...