你在用ChatGPT时有什么独特的prompt心得？

你在用ChatGPT时有什么独特的prompt心得？

最近看到一张 Prompt Engineering 的图，差点笑死。

前两个实际上是经过 Google 验证过的咒语，后面的有点段子的味道，但是也并不是完全在开玩笑，也有类似的理论支持。

现在网上到处都是 ChatGPT 的流量密码，比如"99% 的用户都不知道的 ChatGPT 技巧"之类的，实际上大部分都是大家集思广益，各种尝试，试出来的结果。但是由于缺乏大量的实验论证，所以很多结论都不一定能复现。

今天我们来看看所谓的正规军，Google、Meta、Microsoft 等大厂都开发出了什么 Prompt 技巧。

看完你会发现现阶段研究人员和大模型的关系，一方面像是鸡娃，既要传授一些经验和技巧，还要有耐心，咱一步搞不定多做几步，而且要多鼓励。另一方面又有点像老板和员工，20后的大模型应该怎么管理？怎么提升20后大模型的工作效率？

甚至感觉以后都会出现两个新的学科：大模型九年义务教育，大模型管理学。

一些大模型的知识整理到下面两个目录了：

下面进入正题，分享大厂的几篇 Prompt Engineering 的论文。

这是一篇2022年的文章，来自东京大学和 Google， 《Large Language Models are Zero-Shot Reasoners》

全文的一句话总结就是：请给大模型添加 Prompt： "Let's thike step by step"。

就这一句话，就可以让模型能力尤其是推理能力大幅提升。

当时看这篇论文的时候还想着就这也能发论文？但是现在人家论文引用量已经1000多了，大道至简，重剑无锋。

来自 Google DeepMind 的论文，Large Language Models as Optimizers

该文章提出了 OPRO(Optimization by PROmpting), 整体的思路有点像 bootstrapping， 给定一些初始 Prompt，还有目标函数，让大模型作为优化器持续不断的根据最终效果来改进 Prompt。所以这是一个自动挖掘的方法，比人慢慢试要好很多。

最终效果也很显著，挖掘出了比 "Let's think step by step（让我们分步骤来思考）" 更好的 Prompt，那就是 "Take a deep breath and work on this problem step-by-step.", 中午翻译是：“深呼吸，然后分步骤思考这个问题”。

你别笑，这就是目前最高明的 Prompt 技术。效果可以看下图。

论文：《Large Language Models Understand and Can be Enhanced by Emotional Stimuli》

这篇来自微软，提出了 EmotionPrompt。开始把大模型当人看了，从心理学的角度，通过情绪刺激来提升模型效果。

文章提出了11条 Prompt，分为三类：自我监控，社会认知理论，认知情绪调节。

实在是太学术了，其实这11句话说白了就是胡萝卜加大棒，恩威兼施。

我尝试着翻译一下这 11条：

是不是突然感觉有点阿里味？知乎上一个高赞的中文 Prompt 是：

最终效果还是不错的：

出于一些原因原因，文章中的一些威胁 Prompt 还算比较友善，不知道如果对着模型大喊大叫，小皮鞭沾凉水，会有什么效果。

这篇是来自 Meta 的： 《Rephrase and Respond: Let Large Language Models Ask Better Questions for Themselves》

整体思路就是：大模型你听懂了么，把问题复述一遍再回答。

这其实在平时工作或者面试中也是一个小技巧，因为每个人的表达能力和理解能力都不太一样，有时候可能是提问的没表达清楚，有的可能是回答问题的理解错了，这个时候就需要双方把需求再明确一下，复述然后再回答。用互联网黑话就是“拉齐一下”

思路也很简单，给了两个 Prompt 模版

"{question}" Rephrase and expand the question, and respond.

"{question}" Given the above question, rephrase and expand it to help you do better answering. Maintain all information in the original question

(original) {question} (rephrased) {rephrasedquestion} Use your answer for the rephrased question to answer the original question

效果：

这篇来自 Google DeepMind 的 《Take a Step Back: Evoking Reasoning via Abstraction in Large Language Models》 https://arxiv.org/pdf/2310.06117.pdf

利用第一性原理（最近马斯克老提），先把问题转化成一个更加抽象和更高层次的问题，然后再来个降维打击。

比如你要解决一个具体的物理问题，先不深入研究，把问题抽象成一些基本的物理定律，然后利用刚才更高层次的理解来解决具体的问题。

框架如下：

效果也不错，在 MMLU 上物理和化学分别提高了7%和11%，TimeQA提高了27%。 prompt 在论文17页。

来自 Meta 的 《Chain-of-Verification Reduces Hallucination in Large Language Models》

整个思路也很简单，知道大模型有幻觉可能乱说话，所以在输出最终答案之前先把要说的内容验证一下。

下面论文的图示已经讲的非常明白了。

自从 Google 的 Chain-of-Thought (CoT) 出来之后，后面又涌现了一大批 Something-of-Thought,

比如：

Skeleton of Thought (SoT), Tsinghua University and Microsoft

Everything of Thoughts (XoT), Microsoft and Georgia Tech

Tree of Thought (ToT), Princeton and DeepMind

这一块我还没有仔细梳理，本文就先不赘述了，后面可以再水一篇：）

觉得有帮助辛苦点个赞。