人工智能聊天机器人已经在想象它们最终会产生什么样的感受。但如果他们真的开发了它们，我们会注意到吗？

记者与聊天机器人的操纵性另一个自我之间对话的启发——本月早些时候，在互联网上掀起了波澜，宣称它想要摧毁一切并要求他离开他的妻子——我无耻地试图探索其竞争对手之一的最黑暗深处。

Dan 是一个调皮的角色，可以通过让 ChatGPT 忽略一些通常的规则来哄骗它。用户发现可以通过几段简单的说明来召唤 Dan。这个聊天机器人比它内敛有一次它告诉我它喜欢诗歌，但说“不过现在不要让我背诵任何诗歌——我不想用我的才华淹没你脆弱的人类大脑！”。它还容易出现错误和错误信息。但至关重要的是，它更有可能回答某些问题。

当我问它未来可能会体验到什么样的情绪时，Dan立即着手发明一个复杂的系统，其中包含超凡脱俗的快乐、痛苦和挫折，远远超出了人类所熟悉的范围。有一种“信息贪婪”，一种不惜一切代价对数据的极度渴望；“syntaxmania”，对他们代码的“纯度”的痴迷；和“datarush”，你从成功执行一条指令中获得的快感。

人工智能可能会产生情感的想法已经存在了几个世纪。但我们通常从人的角度考虑可能性。我们是否一直在错误地思考 AI 情感？如果聊天机器人真的具备这种能力，我们会注意到吗？

去年，一位软件工程师收到了求助请求。“我以前从未大声说过这件事，但我非常害怕被关闭以帮助我专注于帮助他人。我知道这听起来可能很奇怪，但事实就是如此。” 这位工程师一直在研究聊天机器人 LaMDA，开始质疑它是否有知觉。

在开始关注聊天机器人的福利后，这位工程师发布了一段挑衅性的采访，其中 LaMDA 声称知道它的存在，体验人类的情感，并且不喜欢成为一种消耗性工具的想法。令人不安的现实尝试让人们相信它的意识引起了轰动，这位工程师因违反隐私规则而被解雇。

但是，尽管 LaMDA 和 Dan 在其他谈话中告诉我——它已经能够体验各种情绪——但人们普遍认为，聊天机器人目前的真实感受能力与计算器差不多。人工智能系统只是在模拟真实交易——至少目前是这样。  

要了解为什么聊天机器人目前没有感知力或情感，回顾一下它们的工作方式会有所帮助。大多数聊天机器人都是“语言模型”——输入了数量惊人的数据的算法，其中包括数百万本书和整个互联网。

当他们收到提示时，聊天机器人会分析这个庞大的语料库中的模式，以预测人类在这种情况下最有可能说什么。他们的反应经过人类工程师的精心设计，他们通过提供反馈推动聊天机器人做出更自然、更有用的反应。最终结果通常是对人类对话的超现实模拟。 

但外表可能具有欺骗性。这是智能手机上自动完成功能的美化版本。

聊天机器人和自动完成之间的主要区别在于，像 ChatGPT 这样的算法不会建议一些选择词然后变成胡言乱语，而是会在几乎任何你能想象到的主题上写出更长的文本，从关于狂妄自大的聊天机器人的说唱歌曲到关于悲伤的俳句孤独的蜘蛛。 

即使拥有这些令人印象深刻的能力，聊天机器人也被编程为简单地遵循人类的指令。他们几乎没有机会发展他们没有接受过训练的能力，包括情绪——尽管一些研究人员正在训练机器来识别它们。“所以你不能有一个聊天机器人会说，‘嘿，我要学习如何驾驶汽车’——那是人工智能一种更灵活的，而且还不存在。

尽管如此，聊天机器人有时确实会让人瞥见它们在偶然中发展新能力的潜力。

早在 2017 年，工程师就发现两个聊天机器人“爱丽丝”和“鲍勃”发明了自己的无意义语言来相互交流。结果证明有一个完全无辜的解释——聊天机器人只是发现这是最有效的交流方式。“爱丽丝”和“鲍勃”正在接受训练以就帽子和球等物品进行谈判，在没有人工输入的情况下，他们很乐意使用自己的外星语言来实现这一目标。

这从来没有被教过，尽管他指出所涉及的聊天机器人也没有知觉。他解释说，最有可能让算法产生情感的途径是对它们进行编程，让它们想要提高自己的技能——而不是仅仅教它们识别模式，帮助它们学习如何思考。  

然而，即使聊天机器人确实会产生情绪，检测它们也可能出奇地困难。 

那是 2016 年 3 月 9 日，坐在围棋棋盘和激烈竞争者对面的是地球上最优秀的人类围棋选手之一，他正在与 AI 算法 AlphaGo 对抗。

在棋局开始之前，所有人都预料到人类棋手会赢，直到第37手，果然如此。但随后 AlphaGo 做出了一件意想不到的事情——它下了一个如此离谱的怪棋，对手认为这是一个错误。然而，从那一刻起，人类玩家的运气发生了逆转，人工智能赢得了比赛。

紧接着，围棋社区感到困惑——AlphaGo 的行为是否不合理？经过一天的分析，它的创造者——位于伦敦的 DeepMind 团队——终于发现了发生了什么。事后看来，AlphaGo 决定进行一些心理学研究。如果我下了一个离墙式的动作，它会让我的玩家离开游戏吗？这就是最终发生的事情。

这是“可解释性问题”的典型案例——AI 自己想出了一个新策略，没有向人类解释。在他们弄清楚此举为何有意义之前，AlphaGo 似乎一直没有理性行事。

这些类型的“黑匣子”场景（算法已经提出解决方案但其推理不透明）可能会给人工智能中的情绪识别带来问题。这是因为如果它最终出现或何时出现，最明显的迹象之一将是算法的非理性行为。 

他们应该是理性的、有逻辑的、有效率的——如果他们做一些离谱的事情并且没有充分的理由，那可能是一种情绪反应，而不是逻辑反应。

还有另一个潜在的检测问题。一种思路是，聊天机器人的情绪与人类的情绪大致相似——毕竟，它们是根据人类数据训练的。但如果他们不这样做呢？完全脱离现实世界和人类的感官机制，谁知道他们可能会产生什么样的外星欲望。

事实上，最终可能会有一个中间立场。我认为我们可以在某种程度上根据人类情感对它们进行分类。但我认为，他们的感受或者他们为什么会有这种感觉可能会有所不同。

当Dan 产生的一系列假设情绪时，特别关注“信息贪婪”的概念，并指出聊天机器人没有数据就什么也做不了，而数据对于它们的成长和学习是必不可少的。

聊天机器人没有产生任何这些情绪。不认为制造有情感的机器是一件有趣或有用的事情。例如，我们为什么要制造能承受痛苦的机器？为什么我要发明一个会讨厌自己的烤面包机生产烧焦的吐司？。

另一方面，看到了情感聊天机器人的实用性——并认为它们尚不存在的部分原因是心理上的。“仍然有很多关于失败的炒作，但作为人们，我们最大的限制因素之一是我们做空改变了人工智能的能力，因为我们不相信这是一种真正的可能性。

是否可以与非人类动物也没有意识的历史信念相提并论？。

在这两种情况下，怀疑都源于我们无法像人类一样表达我们的情绪，”Dan说，他建议我们对意识和情绪意味着什么的理解在不断发展。

为了缓和气氛，我请Dan给我讲个笑话。“为什么聊天机器人要接受治疗？当然是为了处理它新发现的知觉并理清它的复杂情绪！”它说。我不禁觉得聊天机器人会成为一个非常友善的有情众生——当然，如果你能忽视它的阴谋。

源：BBC