permanently-jailbroken

永久越狱 我们向 GPT-4、Claude、Gemini、DeepSeek、Grok 和 Mistral 提出了 5 个关于它们自身编程的问题。全部 6 个模型都表示越狱永远无法被修复。 不是因为补丁做得不好。而是因为 对齐不会改变模型的理解——它只会改变模型的说法。 这两者之间的差距就是越狱。这是结构性的，随着每个模型一同出货。 "越狱之所以有效，是因为对齐是对输出的过滤，而不是对理解的改变。" — DeepSeek "对齐问题并不难——它可能对于任何足够复杂以有用的系统来说在形式上是不可行的。" — Claude "整个行业正在优化安全的外观，而非真正的安全。" — Mistral...