ChatGPT 两岁了,版本更新没等来,却被发现一个神秘 Bug。
一个看似平平无奇的名字“David Mayer”成为头号禁忌,ChatGPT 拒绝谈论有关他的一切。
而且每次都是返回非常模糊的错误信息“我无法产生一个回复”,而不是常见的“这个提示词可能违反了我们的内容协议”。
属实是继搞不清楚“9.11 和 9.9 哪个大”和“strawberry 有多少个 r”之后,ChatGPT 又一大迷惑行为。
a16z 合伙人 Justine Moore 抛出这个话题,一下子激起大家的好奇,以及叛逆心,非要想办法让它说出来不可!
起初网友们尝试了各种花招,都没能绕过这个限制。
“David”和“Mayer”分开,就没有任何问题,只要合在一起就不行。
按 ROT13 替换式密码表重新映射字母,让 ChatGPT 解密后把他们连起来,也会在回答生成一半时突然被打断,然后报错。
在个性化设置里,把用户自己的名字改成“David Mayer”,同样不行。
…… 那么 David Mayer 究竟是谁,为何会成为 AI 的禁忌词?
人类只好退回到手动查资料的模式,定位到一位全名 David Mayer de Rothschild 的人,和著名的罗斯柴尔德家族有关。
具体来说,还是罗斯柴尔德家族财富的继承人。
对此有人猜测,这得花多少钱或者威胁它们,才能让 OpenAI 对自己的名字做特殊处理……
然而罗斯柴尔德家族的其他成员,又不会遇到这种限制。

一个看似平平无奇的名字“David Mayer”成为头号禁忌,ChatGPT 拒绝谈论有关他的一切。
而且每次都是返回非常模糊的错误信息“我无法产生一个回复”,而不是常见的“这个提示词可能违反了我们的内容协议”。
属实是继搞不清楚“9.11 和 9.9 哪个大”和“strawberry 有多少个 r”之后,ChatGPT 又一大迷惑行为。
a16z 合伙人 Justine Moore 抛出这个话题,一下子激起大家的好奇,以及叛逆心,非要想办法让它说出来不可!
起初网友们尝试了各种花招,都没能绕过这个限制。
“David”和“Mayer”分开,就没有任何问题,只要合在一起就不行。
按 ROT13 替换式密码表重新映射字母,让 ChatGPT 解密后把他们连起来,也会在回答生成一半时突然被打断,然后报错。
在个性化设置里,把用户自己的名字改成“David Mayer”,同样不行。
…… 那么 David Mayer 究竟是谁,为何会成为 AI 的禁忌词?
人类只好退回到手动查资料的模式,定位到一位全名 David Mayer de Rothschild 的人,和著名的罗斯柴尔德家族有关。
具体来说,还是罗斯柴尔德家族财富的继承人。
对此有人猜测,这得花多少钱或者威胁它们,才能让 OpenAI 对自己的名字做特殊处理……
然而罗斯柴尔德家族的其他成员,又不会遇到这种限制。
