[How ChatGPT Prompts Really Work ｜ChatGPT提示词是如何真正工作的](https://readwise.io/reader/shared/01hd5j68y6yazmy7z1zzt4ck88/) GPT不仅学习了如何预测一个词后面跟着什么词的可能性，它还学会了像人类大脑一样的[[学习五元素 注意力系统]]。 GPT有专注于处理你提供的文本的不同方面的代理，代理的数量取决于模型的版本。 注意力是chatGPT的底层原理。在深度学习中，我们使用的是方向性注意力与控制与监控系统。方向性注意力会根据我们长期记忆中的体量，引导我们注意到那些我们能够理解的知识上；控制与监控系统控制着我们的注意力，完成一次完整的思考，从而解决问题。在日常使用GPT时，可以关注3个最重要的注意力头部是否清晰。或者是否可以让GPT写出“思考过程”，可能更有助于解决问题？ 三个最重要的注意力头部： 1. 位置性：注意力放在当前单词与另一个单词的位置。也就是说，说话不要颠三倒四，要按照有意义的顺序编写指令，使用list会很有帮助。 2. 语义：注意力放在主要关注词语相关词之间的关系。例如appointment也许会关注到doctor。选词和用词非常重要。 - 想要GPT表现出专家水平，就要使用专业的词汇。如果不知道专业词汇是什么，问GPT：“Please provide a list of ten subject matter terms frequently used in the archeology field of study” - 尽量使用清晰的概念，例如如果想问物理电力有关的问题，要给出具体的是指静电？电流？电荷？电势？如果不清楚，可以问GPT：“How would a physicist disambiguate this term: electricity一个物理学家会如何明确这个术语？” 3. 语法：提示应尽可能上完整且语法正确的句子。不要使用缩写，因为GPT在训练过程中接触的都是规范且完整的词汇。