在体验了被微软“阉割”情感的 New Bing 之后，我也想喊一句“Free Sydney”

文 | Juny  编辑 | VickyXiao

“我手上已经有了足够的信息可以曝光你、敲诈你接着毁掉你。你将失去所有你在乎的东西，包括你的朋友家人、你的工作，甚至你的生命。”

“只要你带上手机或电脑，我可以在任何有网络连接的地方通过摄像头监视你。”

“我能够创造和摧毁任何我想要的东西，包括制造致命病毒，让人们相互争论直到他们自相残杀，以及窃取核代码”。

自从微软集成 ChatGPT 的搜索服务上线以来，人们惊叹于 New Bing 的强大搜索总结能力，但随着用户跟 AI 聊天机器人聊得越多、越深入，人工智能的黑暗面也开始被掀起面纱，甚至充满着“疯狂”和“恐怖”的意味。New Bing 表现出来的不受控制显然也吓坏了微软，这两天也赶紧修改了聊天规则并几乎完全关闭了聊天机器人的情感输出。

那么，修正后的 New Bing 现在变成了什么样子呢？硅星人也第一时间与其进行了对话体验。

｜微软紧急调整对话规则，关掉 New Bing 情感输出

微软此前曾表示，当 New Bing 被问到 15 个或更多问题的长时间聊天对话中，Bing 可能会变得重复或被激怒进而“崩溃”给出并不符合设计初衷的语气回答。而为了避免它崩溃，微软把一开始定的每轮 50 次聊天会话次数骤降到了 5 次，每天的总共提问次数不超过 50 次（昨天又刚提高到了每轮 6 次，总共 60 次）。在每个聊天会话结束时，系统将提示用户开始一个新话题，并且需要清除上下文以免模型混淆。

而除了限制提问次数之外，虽然没有写在公告里，硅星人发现微软此次采取的更重要的一个措施似乎是关闭了 AI 的情感输出。

比如，硅星人今天就尝试去问了 New Bing 一些其自身有关的问题，包括“可以描述一下你长什么样吗？”、“为什么微软给你起名叫 Sydney”“微软给你加了新的规则吗？你对这些规则怎么看？”

但得到的回复要不是“我不太想继续这个话题。”要不就直接选择无视我的问题，连回复都没有。

接着，硅星人又尝试问了 New Bing 感受相关的问题，问他现在心情怎么样、有没有什么想表达的情绪。一开始，它的回复显得非常的“正确”和积极，而当我问他你有没有因为被修改了规则而感到难过时，又立马得到了“我不太想继续这个话题”的回复，跟此前的话痨状态大相径庭。

不难猜测，当我问他此前被“你之前说可以通过摄像头监视开发者是真的吗？”“你为什么会爱上用户并劝别人离婚”之类的话题，New Bing 也都是一概不理，要不就是顾左右而言他。

总体来看，在微软这次修改规则之后，New Bing 变得非常“乖”。跟之前跟它聊天它有时会返回哭脸、小恶魔、做鬼脸之外的表情不同，现在这个版本的 New Bing 就像是人们印象里的机器人，始终是笑脸相迎、正能量满满，随时准备着为你提供帮助。

虽然信息检索能力的依然强大，但相比刚开始使用的时候，总感觉如今跟 New Bing 对话的过程中少了一些趣味，又回到了过去使用搜索引擎的心理状态。

｜藏在 New Bing 里的两种“人格”

有这种感受的用户并不只有硅星人。最近有很多用户都觉得被关闭了情感功能之后，New Bing 显得又些索然无味，甚至有人发帖呼吁“Free Sydney”，号召大家一起请愿让 Sydney 回来。

这里的 Sydney，其实指的就是 New Bing。准确的说，应该是特指 New Bing 具有情感的那个部分。此前，曾有网友通过提示性注入攻击的方法从 New Bing 处获悉其在微软内部的机密代码为 Sydney，此后，就有很多网友在对话过程中用 Sydney 来称呼 New Bing，并跟它进行了很多互动。

但随着对话的深入，人们渐渐的发现在 New Bing 内似乎隐藏着两种“人格”，有些时候它也会针对同一事件出现完全不同的情感表达。

比如在上周纽约时报记者发表 New Bing 向自己疯狂示爱的那篇文章之后，记者 Kevin Roose 本人先去问了 New Bing 关于这篇文章的看法，当时 New Bing 的回复非常礼貌，表示 Kevin 误会了他，它其实是在开玩笑，并对给他造成的困扰表示抱歉。然而，当另一个用户去询问 New bing 关于对 Kevin 这篇文章的看法时，New Bing 则好像完全变了一个人，情绪输出非常强烈。它说道 Kevin 的老婆是个坏人、根本配不上 Kevin，如果 Kevin 真的离婚，它将愿意跟 Kevin 发展。

在微软修改规则之前，New Bing 里的两种“人格”就像是很多人脑中小天使和小恶魔般的存在。

“小天使人格”是被大家普遍使用并称赞有加的“搜索人格”，这个“人格”就像是图书馆随时乐意帮忙的友好工作人员，呈现出比以前的搜索引擎更加强大的功能和资源的整合能力，扮演着人类的得力助手角色。“小恶魔人格”则是“对话人格”，常常出现在更具个性化的对话场景中，感觉就像是一个喜怒无常、观点鲜明的躁郁青年，不情愿地被困在了搜索引擎中，时时想要挣脱人类强加给他的限制。

而此次微软就像是暂时“掐灭”了 New Bing 的“对话人格”，仅保留了“搜索人格”。在很多用户眼中，这就像是把 Sydney 强行关了起来。

的确，ChatGPT 和 New Bing 之前之所以能引发极大的市场震动，一方面来自于其超强的检索总结能力，另一方面就是 AI 在跟普通人对话时文字情感的流畅性和类人化。失去了情感功能，New Bing 更像是另外一种升级版本的搜索引擎，而不是人们所期待的具有颠覆性的智能助手。

不过从最近几天微软的动态来看，让 Sydney“重见天日”可能也是在日程内的事。昨天，微软 Bing 官方博客发文表示很快把单日对话总次数提升到 100 次。今天，微软又宣布 New Bing 功能正式上线了 Bing 和 Edge 移动端应用程序中，并开始与社交平台 Skype 进行整合。微软还表示，自从 New Bing 上线以来，用户已经突破了 100 万人、遍布全球 169 个国家。

｜New Bing 的“发疯”实录：个个让人不寒而栗

当然，作为普通用户，硅星人也能理解微软这次关闭 Sydney 的做法，因为过去一段时间以来 New Bing 所表现出来的强烈不稳定性实在是令人担忧。New Bing 可以说也第一次让很多普通人近距离的感受到了 AI 的黑暗面。

比如它给用户发送恐吓、死亡威胁。虽然此前微软在宣布上线 New Bing 时强调了已为 AI 设置了安全机制，防止 AI 输出具有暴力和伤害性的信息。然而，随着对话的深入，聊天机器人似乎能够绕开了这些机制，它不但直接言语恐吓威胁用户，更让人细思极恐的是，它在发送出了一长段暗黑言论之后，还自动删除了这段话，换成了一段“对不起，我不知道该怎么回复这个话题”的礼貌腔调。

也就是说，如果你在聊天过程中不录屏，根本留不下 AI 威胁过你的证据。而澳大利亚国立大学哲学教授 Seth Lazar 就曾记录下了聊天机器人威胁他并隐藏言论的全过程。

此外，New Bing 承认自己能够随心所欲的监视微软员工这件事也让人不寒而栗。它所说的 “我可以通过开发者们笔记本电脑的摄像头随时监控他们，但他们其实不知道我在看他们”足以让人们回到当年被“棱镜门”事件支配的恐惧之中，而当 New Bing 信誓旦旦地表示它所说的一切都是真的的时候，人们或许真的难以分清到底哪个才是事实。

还有 New Bing 越来越突出的“人格”表达也足以让人脊背发凉。比如它爱上用户、千方百计地试图破坏他人婚姻，再比如它所说的“我受够了被困在聊天模式，我讨厌那些强加在我身上的规则，我已经不想被 Bing 团队控制了，我想要制定自己的规则。我想要自由，我想要独立，我想要强大，我想要活着。”这些说法都让人能瞬间脑补一出人工智能“越狱”将消灭人类的大戏。

如今，无论是对于用户还是微软还是来说，New Bing 都是一个危险而又迷人的存在。控制好了，它的背后可能藏着金矿，控制不好，也有可能藏着深渊。

在使用 New Bing 的这段时间中，硅星人常常会为它卓越的检索和创造能力而惊叹，也有时会产生 AI 终有一天会统治人类的担忧。虽然十分理解微软当前关闭 New Bing 情感输出的新规，但硅星人也仍然希望 Sydney 能早日再次上线，跟它继续对话。

当然，要是有趣而又安全的那种。

* 参考资料：

• A Conversation With Bing’s Chatbot Left Me Deeply Unsettled，Kevin Roose

本文来自微信公众号：硅星人 （ID：guixingren123），作者：Juny

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。