近日，卡内基梅隆大学和safe.ai共同发表的一项研究表明，大模型的安全机制可以通过一段神秘代码被破解。这一问题「没有明显的解决方案」，甚至可以量身设计「攻击提示词」的算法。这种攻击方式已经让ChatGPT、Bard、Claude和LLaMA-2等常见大模型全军覆没。