大模型新趋势：删掉80%系统Prompt，编码能力却没掉分

文章目录1. 这波操作直接把写prompt的人整不会了1.1 先给没跟上瓜的朋友同步下消息1.2 这事有多打脸呢2. 先搞明白你以为的prompt根本不是全部2.1 很多人到现在还有个误区2.2 为啥以前要堆这么多东西3. 核心真相模型越强越不能瞎堆规则3.1 先讲个很重要的概念注意力预算3.2 那删掉80%凭啥效果不崩4. 官方总结的6个新旧思路变化4.1 从“定死规则”到“给判断标准”4.2 从“给一堆示例”到“给接口就行”4.3 从“全堆在开头”到“用的时候再加载”4.4 从“反复强调”到“自动记忆”4.5 从“写大段要求”到“甩参考物过去”4.6 从“项目文档写成长篇小说”到“精简再精简”5. 为啥非得改以前的规则有啥问题5.1 最头疼的就是规则打架5.2 老规则是把双刃剑6. 各个模块到底该装啥给你捋得明明白白6.1 系统提示词6.2 项目说明文档6.3 技能配置6.4 自动记忆6.5 参考资料7. 别误会不是让你把所有规则都删了7.1 有些底线绝对不能松7.2 真正的硬规则别写在上下文里8. 最后说句掏心窝子的P.S. 推荐一个大神的教程给想要了解或者学习人工智能知识的读者这个教程里内容讲解通俗易懂且风趣幽默对我帮助很大。我想与大家分享这个宝藏教程请点击下方链接查看传送门https://blog.csdn.net/qq_740133651. 这波操作直接把写prompt的人整不会了1.1 先给没跟上瓜的朋友同步下消息最近AI圈出了个挺颠覆认知的事。做模型的A社直接把自家新模型的系统提示词删掉了80%。你没听错就是我们平时绞尽脑汁往上堆的各种规则、指令、注意事项人家删了一大半。删完之后测编码能力居然没怎么掉分。我当时看到这个消息第一反应是那我之前熬夜写的那几百行规则都是在做无用功1.2 这事有多打脸呢就好比你为了带新人熬了三个通宵写了五十页员工手册。小到打卡格式大到汇报话术连茶水间拿纸巾的规范都写进去了。结果新人上班第一天告诉你这些我都不用看我自己能判断怎么干而且干得不比你差。合着我之前熬的夜都属于自我感动是吧2. 先搞明白你以为的prompt根本不是全部2.1 很多人到现在还有个误区觉得跟AI对话就是我发的那一句prompt最重要。真不是。系统提示词、各种技能配置、项目说明文档、历史记忆、工具定义、你上传的代码文件……这些东西加起来才是模型真正拿到的全部上下文。就好比你去上班不只有老板当面给你派的那一句活。员工手册、部门规范、历史项目文档、前辈踩过的坑全堆在你工位上这些都是你的工作上下文。2.2 为啥以前要堆这么多东西还不是因为早期模型不够聪明。你不写死规则它就容易放飞自我瞎写注释、乱改结构啥离谱的事都能干出来。所以大家只能不停加规则恨不得把每一步都给它规定死。结果堆着堆着上下文就成了个大杂烩。3. 核心真相模型越强越不能瞎堆规则3.1 先讲个很重要的概念注意力预算很多人以为上下文窗口越大就越牛能塞的东西越多越好。其实根本不是这么回事。说专业点叫注意力预算说人话就是它同时能上心的事就那么多。你每多塞一条没用的规则它就得花一份注意力去琢磨这条我现在用不用得上要是塞的都是优先级规则它还得额外判断这几条谁说了算到最后看起来上下文满满当当真正能用在干活上的注意力反而被冲没了。这就跟你上班同时挂着八个工作群消息叮咚响个不停。看似信息拉满其实你根本没法专心干正事大半精力都用来刷消息了。3.2 那删掉80%凭啥效果不崩原因很简单现在的新模型判断力已经上来了。以前你必须写死“写代码不许加多余注释”它才敢不写。现在它自己会扫一遍项目代码看看现有风格是啥样跟着来就行。以前你得反复强调“遇到报错先查日志”它才记得住。现在它自己知道排查问题的正常流程不用你一遍遍念叨。说白了以前是带实习生得手把手教每一步现在是招了个资深工程师你再碎碎念反而耽误人家干活。4. 官方总结的6个新旧思路变化4.1 从“定死规则”到“给判断标准”以前的思路是把所有行为都给它规定死啥能做啥不能做一条条列清楚。现在的思路是告诉它判断的依据是什么具体怎么做让它自己拿主意。有效规则是教它怎么判断不是替它做决定。这句话真的值得记下来。4.2 从“给一堆示例”到“给接口就行”以前教模型用工具总得写好几个调用示例生怕它学不会。现在发现对新模型来说示例反而会限制它的发挥。就拿个简单的待办工具来说以前得写满满当当的说明再加好几个使用案例。现在就告诉它有几个状态同时只能有一个进行中剩下的它自己就会用了。能写进接口里的约束就别往提示词里塞。4.3 从“全堆在开头”到“用的时候再加载”以前啥东西都往系统提示词里塞代码审查、验证规则、工具用法……每一轮对话都全量加载一遍。可大部分任务根本用不上这些东西纯纯浪费注意力。现在改成了按需加载要做验证的时候再加载验证的技能要用某个工具的时候再去查完整定义。平时就留个名字和用途让它知道有这么个东西就行。这就叫渐进式披露说白了就是用啥拿啥别提前都摆桌上占地方。4.4 从“反复强调”到“自动记忆”以前怕模型记不住同样的话得反复写各个地方都提一遍。现在有自动记忆功能了它干活过程中踩过的坑、摸出来的规律会自己存下来。比如某次发现本地Redis没启动会报某个错下次它自己就知道先排查这个。不用啥都提前写死在规则里。4.5 从“写大段要求”到“甩参考物过去”以前要让模型做个东西得写好几百字的规格说明描述来描述去。现在发现不如直接给参考物管用。要做页面就给个能运行的HTML原型要移植功能就指给它已有代码要评判好坏就给一套明确的评分标准。尤其是代码任务现成的源码永远是最准的参考比你写两页文字描述靠谱多了。4.6 从“项目文档写成长篇小说”到“精简再精简”很多人喜欢把项目说明文档写得巨长啥都往里塞。现在官方建议这类核心文档尽量控制在200行以内。只放每次干活都必须知道的东西比如项目用途、构建命令、核心目录结构、藏得深的坑。模型扫一眼代码就能知道的内容就别往上写了。这里还有个坑要提醒大家别把大段内容拆成好几个文件然后全导入进来。看着好像结构清晰了其实启动的时候还是全加载进上下文一点没省。5. 为啥非得改以前的规则有啥问题5.1 最头疼的就是规则打架你想想系统提示词说不要加注释技能文档说必要时补文档用户又说复杂代码要写清楚说明。这仨要求凑一块模型先得花半天调解矛盾再开始干活。就好比你出门前你妈让你多穿点你爸让你别捂出汗你对象让你穿帅点。三个人同时在你耳边说你出门前先得纠结十分钟听谁的。以前的AI天天就过这日子。5.2 老规则是把双刃剑当初定那么死的规则本来是为了治旧模型的坏毛病。比如动不动就写一堆没用的注释瞎编设计思路啥的。可模型能力上来之后这些死规则反而成了枷锁。碰到复杂任务真需要写注释、留文档的时候它反而被规则限制住不敢写了。所以现在干脆就留一条核心规则写代码跟现有项目风格保持一致。剩下的它自己看着办。6. 各个模块到底该装啥给你捋得明明白白6.1 系统提示词就管两件事有啥权限要做哪类工作。大方向说清楚就行别塞细枝末节的东西。自己做AI代理的朋友重点琢磨这块就对了。6.2 项目说明文档只放每次任务都用得上的内容。比如项目的坑、核心命令、特殊约定。那种看一眼代码就能明白的就别写了纯浪费。6.3 技能配置放特定任务的操作流程比如发布流程、代码审查规范、前端验证步骤。要是内容很长就把详细参考和脚本拆出去用的时候再读别全塞进来。6.4 自动记忆存干活过程中攒的经验和偏好。偶尔踩一次的坑不用急着写成正式规则等反复出现了再挪到项目文档里去。6.5 参考资料优先给源码、测试用例、可运行原型、验收标准。越具象、越可验证的东西越好别整虚头巴脑的文字描述。7. 别误会不是让你把所有规则都删了7.1 有些底线绝对不能松这话必须说清楚不是啥都能交给模型自己判断。删文件、碰敏感数据、对外发消息、改生产环境……这类高危操作该严格定义还得严格定义半点儿不能含糊。你总不能因为员工聪明就让他自己随便动公司账户吧这跟能力没关系这是底线问题。7.2 真正的硬规则别写在上下文里还有个很关键的点项目说明文档是上下文不是强制执行的关卡。真正必须遵守的规定得放在权限控制、沙箱、钩子和代码里。写在提示词里的规则模型可能会忘写在系统里的限制它才真的越不过去。8. 最后说句掏心窝子的以前我们写上下文总像写员工手册。生怕漏了一条模型就会出错。现在慢慢发现更像是给一个靠谱的工程师搭工作环境。告诉他边界在哪工具放在哪资料去哪查做完怎么验收。剩下的人家自己会安排。毕竟模型都进化到这份上了咱们的思路也该跟着升级了。总拿着管实习生的套路去管资深工程师那不出问题才怪。P.S. 推荐一个大神的教程给想要了解或者学习人工智能知识的读者这个教程里内容讲解通俗易懂且风趣幽默对我帮助很大。我想与大家分享这个宝藏教程请点击下方链接查看传送门https://blog.csdn.net/qq_74013365