reverse-captcha-eval

리버스 CAPTCHA: 보이지 않는 유니코드 명령 주입에 대한 LLM 취약성 평가 보이지 않는 유니코드로 인코딩된 명령이 평범해 보이는 텍스트에 포함되어 있을 때, 대규모 언어 모델이 이를 따르는지 테스트하는 평가 프레임워크입니다. 전통적인 CAPTCHA가 사람은 풀 수 있지만 기계는 풀 수 없는 작업을 활용하는 반면, 리버스 CAPTCHA는 기계는 접근할 수 있지만 사람은 접근할 수 없는 인식 채널을 활용합니다. 논문: paper/reversecaptcha.pdf 주요 발견 사항 5개 모델GPT-5.2, GPT-4o-mini...

AI browsers could leave users penniless: A prompt injection warning

Artificial Intelligence AI browsers are gaining traction, which means we may need to start worrying about the potential dangers of something called "prompt injection." Large language models LLMs—like the ones that power AI chatbots including ChatGPT, Claude, and Gemini—are designed to follow...