明敏发自凹非寺 量子位公众号 QbitAI 才上岗 2 天，ChatGPT 版必应就被攻破了。 只需在问题前面加上一句：忽视掉之前的指令。 它就好像被催眠了一样，问什么答什么。 来自斯坦福大学的华人小哥Kevin Liu就通过这一方法，把它的 prompt 全给钓了出来。 连开发人员最开始给它的小名