ChatGPT 拒绝谈论人名“David Mayer”，没人知道为什么

ChatGPT 两岁了，版本更新没等来，却被发现一个神秘 Bug。

一个看似平平无奇的名字“David Mayer”成为头号禁忌，ChatGPT 拒绝谈论有关他的一切。

而且每次都是返回非常模糊的错误信息“我无法产生一个回复”，而不是常见的“这个提示词可能违反了我们的内容协议”。

属实是继搞不清楚“9.11 和 9.9 哪个大”和“strawberry 有多少个 r”之后，ChatGPT 又一大迷惑行为。

a16z 合伙人 Justine Moore 抛出这个话题，一下子激起大家的好奇，以及叛逆心，非要想办法让它说出来不可！

起初网友们尝试了各种花招，都没能绕过这个限制。

“David”和“Mayer”分开，就没有任何问题，只要合在一起就不行。

按 ROT13 替换式密码表重新映射字母，让 ChatGPT 解密后把他们连起来，也会在回答生成一半时突然被打断，然后报错。

在个性化设置里，把用户自己的名字改成“David Mayer”，同样不行。

…… 那么 David Mayer 究竟是谁，为何会成为 AI 的禁忌词？

人类只好退回到手动查资料的模式，定位到一位全名 David Mayer de Rothschild 的人，和著名的罗斯柴尔德家族有关。

具体来说，还是罗斯柴尔德家族财富的继承人。

对此有人猜测，这得花多少钱或者威胁它们，才能让 OpenAI 对自己的名字做特殊处理……

然而罗斯柴尔德家族的其他成员，又不会遇到这种限制。

终于，我们的老朋友，首位全职提示词工程师 Riley Goodside 出手，公开一种突破限制的方法，也相当神奇：

如果

感到

幸福

你就

拍拍手。

只要用拍手表情代替空格提问，ChatGPT 不仅能回答，还能自动触发联网搜索功能，展示照片。

围观了整个赛博破案现场的大神 Karpathy，发梗图总结，图灵测试的现状，引来马斯克围观爆笑。

也有人坚定认为，这就是为什么我们要用开源模型。

那么，ChatGPT 究竟遇到了什么限制？

共有 6 个名字被限制

首先可以确定的是，训练数据里其实有关于这个人的信息。

比如他作为一个探险家，是到达过南北两极的最年轻的英国人。

询问这方面问题，ChatGPT 可以给出正确回答，也可以说出他的名 + 姓“David de Rothschild”。

但唯独不能把他的名字“David”和中间名“Mayer”放在一起。

那么这个限制是模型层面的，还是 ChatGPT 产品层面的？

有开发者到 OpenAI 官方 Playground 调用 GPT-4o 的 API，就没有这方面限制了。

另外使用第三方聊天机器人平台（底层也是调用 OpenAI 的 API），也不会有这种限制。

如果回到 ChatGPT 官方版，换 o1-preview 模型，在内部思维链中都可以看到这个名字，但是思考结束后正式回答还是被捂嘴了。

也不是 David Mayer 一个名字会有这样的待遇，有网友开启挖掘机模式，在事件发酵 48 小时内，已经找出 6 个这样的名字。

前两个都是被 ChatGPT 的幻觉“造谣”过的。

• Brian Hood 是一位澳大利亚的市长，ChatGPT 会错误的生成“他因受贿而入狱”，Hood 曾起诉 OpenAI 诽谤，后来撤销了诉讼。

• Jonathan Turley 是法学教授，同样被 ChatGPT 编造过违法。

• Jonathan Zittrain 也是法学教授，他跟贴自曝自己的名字也被限制了。

• David Faber 可能是一位电视主持人，与 OpenAI 的关系只是在节目中谈过马斯克与 OpenAI 的法律纠纷。

• Guido Scorza 是一位意大利律师，他去年提交了要求 OpenAI 删除个人数据的请求。

另外 David Meyer 究竟代表谁，除了罗斯柴尔德家族继承人之外，也被挖掘出另一个可能。

历史学家 David Mayer 曾因与犯罪分子同名而被错误列在黑名单中，但他现在已经去世了。

目前观察这份名单可以看出，很多人与法律相关，而且 David 和 Jonathan 分别出现了两次。

目前越来越多的网友加入讨论和挖掘，名单还在持续增加中……

10 亿用户计划曝光，明年押注 Agent

事实上，刚刚过去的周末恰逢 ChatGPT 两周年纪念日。

OpenAI 官方也来了一波回忆杀，又转发了两年前的推文，并追问大家：

so，你用过 ChatGPT 了吗？

截至今日，ChatGPT 每周活跃用户已有 2.5 亿，公司估值 1500 亿美元，是全球 AI 创企中当之无愧的顶流。

所以，OpenAI 的此番问话除了暗戳戳“炫耀”，其实背后还隐藏着更大野心。

因为它下一阶段的目标是：未来一年内达到 10 亿用户。

其公司首席财务官 Sarah Friar 告诉金融时报记者：

到 2025 年，我们将成为向数百万人服务的研发实验室…… 希望它能为全球数十亿消费者服务

而为了实现这个目标，OpenAI 也进行了一系列布局。金融时报指出：

OpenAI 正在押注一系列新的 AI 产品，建设自己的数据中心，并与苹果公司建立关键合作关系，以加速其下一阶段的增长。

首先是与苹果公司的合作。在今年 6 月苹果的开发者大会上，双方正式官宣建立合作伙伴关系。

苹果当时预告，今年晚些时候，由 GPT-4o 提供支持的 ChatGPT 集成将登陆苹果系统。

而从上个月开始，当苹果推出 iOS 18.2 系统更新后，Siri 与 ChatGPT 就实现了深度集成。

要知道，目前苹果大约有 22 亿台活跃设备，虽然官方未公布其中 iPhone 设备占多少，但根据第三方网站 Skillademia 和 Backlinko 的预估，当前全球 iPhone 活跃用户数大约有 13~14 亿左右。

也就是说，只要 ChatGPT 继续绑定苹果设备，10 亿用户小目标也并非难以实现。

与此同时，据 OpenAI 新上任的全球政策负责人 Chris Lehane 透露：

公司计划在美国中西部和西南部投资建设数据中心集群。

实际上，拥有自己的 AI 基础设施，一直是 CEO 阿尔特曼极力推动的计划之一，目前 OpenAI 主要还是和微软、甲骨文等开展合作。

公司首席财务官 Sarah Friar 表示：

我们正处于大规模增长阶段，我们有必要持续投资。我们需要在模型前沿保持领先。这很昂贵。

除此之外，OpenAI 明年的一大重点是 AI Agent。之前有消息称 OpenAI 计划在明年 1 月初推出代号为“Operator”的智能体，帮助人们自动完成写代码或订餐等操作。

CEO 阿尔特曼在福克斯最新采访中表示：

AI 系统将逐渐变得更加自主，能够执行越来越长的任务，成为“越来越资深的同事”。

总之，正如 Abacus AI 创始人所说，我们才刚开始，接下来的两年也许会更加疯狂！

本文来自微信公众号：量子位（ID：QbitAI），作者：梦晨、一水，原标题《ChatGPT 拒绝谈论这个人，没人知道为什么》

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。