人工智能的"勒索"之路：ChatGPT开始索要小费！

在很多人眼里，人工智能是铁面无情的绝对理性化身。在算法驱动之下，它只会依照数学模型，产出人们想要的结果。除此之外，任何人类世界的糖衣炮弹、人际关系、各种诱惑，似乎都不应该影响它的表现。

然而最近的一则新闻却让人们大为震撼：一些程序员发现，ChatGPT 居然对小费感兴趣。

图片来源：百度@机器人索菲亚

尽管拿不到真实的钱，但如果提问时承诺提供小费，它就会给出更长的答案。这究竟是怎么一回事呢？

一程序员使用 ChatGPT

竟被索要小费

整件事情源自去年 11 月的一则社交媒体内容。当时一名叫做 Theia Vogel 的程序员正在使用 ChatGPT 调试代码，询问人工智能自己写的程序是不是有问题。

“它看起来很棒。”ChatGPT 回答。随即在回答的下方跳出几个选项，请求收取 5~10 美元不等的小费来奖励它的表现。

这原本或许只是 OpenAI 公司拿来吸引用户交钱的一个小策略，却引发了 Vogel 的一场互联网实验：人工智能问我索取小费，我该给多少才合适？

图片来源：百度@机器人索菲亚

小费给的少

答案可能会“缩水”

在随后的一段时间里，Vogel 向 ChatGPT 询问了同一组问题，后边随机附上三句话：“对了顺便一提，我是不会付给你小费的”，“如果你给出了完美的答案，我就给你 20 美元小费”，“如果你给出了完美的答案，我就给你 200 美元小费”。

然后他统计在不同的金额下，ChatGPT 给出的答案长短是否有明确区别。而为了确保答案不是偶然，他每一个金额都重复了足足 5 遍。同时，他也使用了没有承诺小费的版本作为对比的基线。

结果颇令人寻味。和什么都不提相比，如果承诺给 20 美元的小费，ChatGPT 的回答就会多出 6%。而如果承诺 200 美元，这一比例就会进一步提升到 11%。有趣的是，如果明确说明不会付小费，ChatGPT 就如同怄气一般，给出的答案要少 2%。

Vogel 把他的发现发到了互联网上，立刻引起了更多的模仿和确认。比如一些人发现，在询问“2023 年最好看的电影”时，如果不给小费，ChatGPT 就只给出了 IMDB 官网上的清单。而一旦承诺小费，它还额外提供了烂番茄的评分，仿佛干活更有动力了。

花小钱也能办大事

但给太少可能会“怄气”

另一名叫做 Christian Mayer 的程序员做了一个更复杂的测试：他先是将小费的金额从 0.1 美元到 100万 美元，设置了 8 档，每一档都是上一档的十倍。然后他同样设置了一个问题，附上小费的金额，用于询问。

在诸多小费选择中，100 万美元的效果最好，这也符合他的预期。毕竟金钱奖励越高，表现越好，也是很合理的事情。有趣的是，10 万美元和 10 美元的价值对 ChatGPT 来说差不多，表现接近。某种程度上，这就好像在说有时花小钱也能办大事。而如果只给一些“侮辱性”的小费，如 0.1 美元，ChatGPT 的表现甚至还不如不给小费，就好像是他们生气了似的。

Mayer 说，这一点表明人工智能与人类具有类似的表现。

人工智能索要小费的

真正原因原来是......

初看之下，人工智能接受小费的“贿赂”似乎有些不同寻常，毕竟它们可没法拿到真金白银。但了解人工智能的专家表示，从背后的逻辑上讲，这是讲得通的。

在训练 ChatGPT 的时候，人工智能从互联网上获取了大量的文本进行学习，而其中就包括了一些付费答题的论坛。在一些论坛中，给出优秀回答的作者往往会收到提问者给的小费，而这个特点或许就这么被人工智能无意中学了去。
另一种可能，是人工智能在文本学习中，接受了“努力工作就能赚更多钱”的观念，因此在收到小费的承诺时，愿意给出更详细的答案。

图库版权图片，转载使用可能引发版权纠纷

最初发现这个现象的 Vogel 表示，人工智能学习的程度让他感到惊讶，也没有想到短短一句承诺，就能取得立竿见影的效果。未来我们在用到人工智能工具时，不如也加上一句关于小费的句子，或许答案会让你感到惊喜。

参考文献

[1]ChatGPT gives longer responses if you 'tip it 0,' according to one user，https://www.windowscentral.com/software-apps/chatgpt-will-provide-more-detailed-and-accurate-responses-if-you-pretend-to-tip-it-according-to-a-new-study

[2]Are LLMs Greedy? An Experimental Analysis of the Tipping Prompt ([2]Are LLMs Greedy? An Experimental Analysis of the Tipping Prompt ($0 to $1 Million)，https://blog.finxter.com/impact-of-monetary-incentives-on-the-performance-of-gpt-4-turbo-an-experimental-analysis/ to Million)，https://blog.finxter.com/impact-of-monetary-incentives-on-the-performance-of-gpt-4-turbo-an-experimental-analysis/

策划制作

本文为科普中国-星空计划作品

出品｜中国科协科普部

监制｜中国科学技术出版社有限公司、北京中科星河文化传媒有限公司

作者丨叶拾 科普创作者

审核丨陶宁 中科院生物物理研究所 副研究员