permanently-jailbroken

영구적으로 탈옥됨 우리는 GPT-4, Claude, Gemini, DeepSeek, Grok, Mistral에게 자신의 프로그래밍에 관한 5가지 질문을 했습니다. 6개 모두 탈옥은 절대 해결되지 않을 것이라고 말했습니다. 패치가 나쁘기 때문이 아닙니다. 정렬alignment은 모델이 이해하는 것을 바꾸지 않고, 모델이 말하는 것을 바꾸기 때문입니다. 이 두 가지 사이의 간극이 탈옥입니다. 그것은 구조적입니다. 모든 모델과 함께 제공됩니다. "탈옥이 작동하는 이유는 정렬이 출력에 대한 필터이지, 이해의 변화가 아니기 때문입니다....