intentshield

IntentShield AI가 말하는 내용을 필터링하지 마세요. AI가 곧 실행할 행동을 필터링하세요 AI 에이전트를 위한 실행 전 의도 검증. 왜 이런 도구가 필요한가 AI 에이전트는 도구 접근 권한을 가집니다. 셸 명령을 실행하고, 파일을 쓰고, URL을 탐색하고, 이메일을 보내고, API를 호출할 수 있습니다. 이러한 모든 행동은 잠재적인 공격 표면입니다. 대부분의 AI 안전 도구는 출력 계층에서 작동합니다. AI가 말하는 내용을 검사합니다. 하지만 위험한 부분은 AI가 말하는 내용이 아닙니다. AI가 실행하는 행동입니다...