AI给自己写了个维基百科，，，，，，而后技术突飞猛进

第一天上岗，，，，，，什么都不会，，，，，，只能靠说明书。。。。。做错了事，，，，，，被骂一顿，，，，，，第二天可能还犯同样的错。。。。。真正严害的员工，，，，，，是那种会把踩过的坑记下来，，，，，，攒成一本幼册子，，，，，，越攒越厚，，，，，，后面来的新人翻一翻就能少走弯路的那种人。。。。。 先说说这个领域此刻是什么水平。。。。。像EvoSkill这类步骤，，，，，，会守护一份"汗青提案和评估了局"的纪录，，，，，，但这份纪录只是流水账，，，，，，谁提了什么、有没有通过，，，，，，仅此而已，，，，，，没有把里面的知识提炼出来。。。。。Trace2Skill会从执行轨迹里提取教训，，，，，，直接揉进技术更新里，，，，，，但提炼完的洞察也就用这一次，，，，，，下一轮又得沉新从原始纪录里挖。。。。。SkillOpt靠"被回绝的编纂反馈"和"按轮次的元领导"来做优化，，，，，，同样没有一个独立存在、持续累积的知识层。。。。。 打个譬喻，，，，，，这就像一个侦探破案破了三个月，，，，，，每次破案的线索和推理过程都记在案卷里，，，，，，可案卷归档之后就锁进档案室了，，，，，，没人整顿成"办案手册"。。。。。下次遇到类似案子，，，，，，侦探还得重新翻案卷，，，，，，凭影象拼凑昔时的推理逻辑，，，，，，效能低不说，，，，，，还容易漏掉沉点。。。。。若是侦探能把每次破案的经验总结成一份不休更新的办案指南，，，，，，写明显"什么线索通常指向什么结论"、"哪些推理方向试过是死路"，，，，，，那第二十个案子破起来就会快得多。。。。。 这篇论文的作者们，，，，，，从一位驰名AI钻研者Karpathy提出的"LLM Wiki"理想里得到启发。。。。。这个理想说的是，，，，，，与其让经验散落遍地，，，，，，不如把它编译成悠久的、会不休复利增长的知识。。。。。因而他们提出了一个很直接的问题：能不能让AI agent的经验，，，，，，也这样被压缩进一个悠久的知识库，，，，，，支持技术的持久进化？？？？？？？？ 第一层叫原始层（Raw Layer），，，，，，存放agent执行工作时留下的齐全轨迹，，，，，，蕴含它的每一步推理、每一次挪用工具、每一次工具返回的了局。。。。。这一层是只写不改的，，，，，，就像法院的庭审纪录，，，，，，一旦形成就不能篡改，，，，，，任何后续分析都得基于这份原始证据。。。。。 > 维基层：一个持续堆集的结构化知识库，，，，，，专门存放从原始执行纪录中提炼出来的"模式"（好比某类失败反复出现的原因、某类成功战术为什么有效），，，，，，以及一份纪录着汗青上每次技术提案是否被接受的审计日志。。。。。 维基层不是单一地把原始纪录复造一份，，，，，，而是经过一层"消化吸收"，，，，，，把狼藉的经验整顿成结构化的、可复用的认知。。。。。这一层从来不会被沉置或回滚，，，，，，哪怕某次技术更新失败了，，，，，，维基层里堆集的知识依然保留下来。。。。。 若是只有原始层和技术层，，，，，，没有中央的维基层，，，，，，会产生什么？？？？？？？？作者们专门做了一组对照尝试来回覆这个问题，，，，，，稍后会具体说。。。。。这里先说结论：省掉维基层之后，，，，，，成效会大幅下滑，，，，，，由于掌管天生新技术的那个？？？？？？？？，，，，，，每次都得从零起头沉新分析原始纪录，，，，，，很难在多轮迭代之间形成连贯的认知堆集。。。。。 第二个是维基守护者（Wiki Maintainer），，，，，，它读取推理agent留下的原始轨迹，，，，，，加上已有的维基内容，，，，，，对失败案例做根因分析，，，，，，对成功案例提炼出可复用的战术，，，，，，而后更新维基里的模式页面和演化日志。。。。。 > ReAct：一种让说话模型交替进行"推理"和"行动"的工作模式，，，，，，模型先想一步该做什么，，，，，，再真的去挪用工具执行，，，，，，看到了局后持续推理下一步，，，，，，如此反复。。。。。 技术提议者不是被动接管一堆预先采样好的纪录去分析，，，，，，而是像一个自动调查的侦探，，，，，，一路头只拿到维基的索引目录、汗青上技术是否被选取的纪录、以及所有训练工作成败的简要提要，，，，，，而后自己决定要不要去翻某页景＿体的模式文档，，，，，，要不要去看某一条具体的执行轨迹。。。。。这么设计是由于齐全的执行汗青太长，，，，，，塞进模型的高低文窗口装不下，，，，，，让它自己按需检索，，，，，，比一股脑塞给它更高效。。。。。 第四个是门控与回滚机造（Gating and Rollback），，，，，，掌管把技术提议者提出的候选技术拿到验证集上跑一遍，，，，，，若是验证分数比之前最好的分数高，，，，，，就接受这次更新，，，，，，不然就把技术回滚到上一个成功版本。。。。。 哪怕这次的技术提案被回绝了，，，，，，维基里关于"为什么被回绝"的纪录依然被齐全保留下来，，，，，，供下一轮参考。。。。。这就好比公司做产品迭代，，，，，，一个新职能上线后用户反馈很差，，，，，，被撤下了，，，，，，但产品团队不会把这次失败的调研汇报也一路销毁，，，，，，反而会把"这个方向为什么行不通"写进内部知识库，，，，，，预防下次有人又提出同样的规划沉蹈覆辙。。。。。若是没有这层影象，，，，，，团队很可能会在几个月后由于人员流动，，，，，，又有人提出如出一辙已经被验证过行不通的点子，，，，，，白白浪费一次试错机遇。。。。。 论文在五个横跨分歧领域的基准测试上做了验证：数学推理（LiveMathematicianBench）、网页搜索（SealQA）、电子表格操作（SpreadsheetBench）、长文档问答（OfficeQA）、以及交互式具身工作（ALFWorld，，，，，，一个模拟家庭环境里实现"拿起时钟放到架子上"这类多步骤工作的测试）。。。。。测试模型覆盖了Qwen系列的4B、9B、27B三个尺寸，，，，，，加上Gemma-4-31B和Gemini-3.5-Flash。。。。。 了局相当亮眼。。。。。跟EvoSkill、SkillOpt、Trace2Skill这三个现有最强的技术进化步骤比，，，，，，WikiSkill在五个模型上别离逾越3.3到12.0个百分点，，，，，，并且在险些所有模型和数据集的组合里都超过了"齐全不给技术"的基线阐发。。。。。 对比一下，，，，，，现有步骤的阐发就不那么不变了。。。。。EvoSkill在Qwen-9B的LiveMath上能把28.2%拉到58.1%，，，，，，成效很猛，，，，，，但换到Gemma-4-31B统一个测试上，，，，，，反而把33.9%拖到了29.8%，，，，，，机能不升反降。。。。。SkillOpt在Gemini-3.5-Flash的SealQA上，，，，，，甚至把29.4%降到28.2%。。。。。这注明现有步骤不足一致性，，，，，，有时辰赌对了成效惊人，，，，，，有时辰直接助倒忙。。。。。 在Qwen家族里，，，，，，WikiSkill带来的均匀提升幅度，，，，，，随模型规模变大而变大：4B模型提升12.3个百分点，，，，，，9B模型提升17.5个百分点，，，，，，27B模型提升23.9个百分点。。。。。在SpreadSheet这个工作上，，，，，，这个趋向更夸大，，，，，，三个模型别离提升6.5、9.3、40.9个百分点。。。。。 这背后的路理并不难理解。。。。。技术是一份操作指南，，，，，，指南写得再好，，，，，，也必要有能力去精确执行每一步指令。。。。。幼模型可能连指南自身都读不透辟，，，，，，更别说照着复杂的多步骤流程一步不差地走下去。。。。。大模型不仅能理解指南，，，，，，还能更好地把指南和当前具体情境结合起来矫捷应对，，，，，，所以同样一份技术，，，，，，大模型能榨出更多价值。。。。。 但反过来，，，，，，技术也能让幼模型逆袭。。。。。Qwen-3.5-9B配上WikiSkill天生的技术，，，，，，均匀正确率达到47.4%，，，，，，直接超过了没有任何技术加持的Qwen-3.6-27B（39.4%）——一个别量幼得多的模型，，，，，，靠着一份好的操作手册，，，，，，打赢了体量大它两倍多的模型。。。。。 这就像一个刚入职的实习生，，，，，，手里握着一本前辈们十年攒下来的操作手册，，，，，，可能比一个天才异禀但两眼一抹黑瞎摸索的资深员工干得还好。。。。。手册里写着的，，，，，，是无数次踩坑之后总结出来的捷径，，，，，，天才添补不了这种经验的空缺。。。。。若是没有这本手册，，，，，，实习生就只能靠自己试错，，，，，，效能天壤之别。。。。。 了局是，，，，，，迁徙过来的技术时时比模型自己进化出来的技术还要好。。。。。Qwen-3.6-27B进化出的技术，，，，，，用在Qwen-3.5-9B上跑SpreadSheet工作，，，，，，能达到50.5%，，，，，，而这个幼模型自己进化出来的技术只有33.6%，，，，，，什么都不给它则只有24.3%。。。。。同样，，，，，，Gemma-4-31B用上Qwen-3.6-27B的技术能在LiveMath上冲到73.7%，，，，，，自己进化的技术只有56.7%。。。。。 更有意思的是，，，，，，迁徙不只是从大模型流向幼模型，，，，，，反过来也成立。。。。。Qwen-3.5-4B（一个相对幼的模型）进化出的技术，，，，，，拿给体量更大的Gemma-4-31B用，，，，，，也能把LiveMath阐发从33.9%拉到73.1%，，，，，，把ALFWorld从50.4%拉到66.9%。。。。。 这注明什么？？？？？？？？技术的"发现能力"和"执行能力"其实是两码事。。。。。有的模型不太善于自己去总结失败教训、提炼有效战术，，，，，，但只有拿到别人总结好的战术，，，，，，执行起来绝不抽象。。。。。这就像一个厨艺天才通常的人，，，，，，不定能自己斟酌出一路菜的最佳配方，，，，，，但只有拿到一份写得清明显楚的菜谱，，，，，，照着做也能做出一桌佳肴。。。。。反过来，，，，，，一个出格会创新菜式的大厨，，，，，，写的菜谱不定是最适合新手照着做的，，，，，，由于他默认了太多自己下意识就懂的经验。。。。。 不外论文也指出，，，，，，迁徙不是始终稳赚不赔的。。。。。Qwen-3.5-4B进化出的SpreadSheet技术，，，，，，拿给Gemini-3.5-Flash用，，，，，，反而把它的阐发从50.5%砸到18.1%。。。。。原因是幼模型进化出的技术里，，，，，，塞满了针对自己能力局限设计的"补丁式"变通做法，，，，，，好比把复杂操作拆成一行一行的单一Python号令，，，，，，这些变通对幼模型是救命稻草，，，，，，但对正本就能写出齐全剧本的强模型而言，，，，，，反而造成了约束，，，，，，甚至由于过多琐碎的诊断步骤亏损掉了对话预算，，，，，，导致工作还没做完就"没功夫"了。。。。。 尝试设置了四种组合：推理agent训练时能不能看维基，，，，，，技术提议者能不能看维基。。。。。当技术提议者被褫夺维基接见权限时，，，，，，掌管守护维基的那个角色也一并被移除，，，，，，相当于彻底取缔悠久知识堆集这件事。。。。。 没有悠久堆集的知识，，，，，，技术提议者面对复杂的失败模式时会显得力不从心，，，，，，由于它每次都得从零起头沉新斟酌"这个谬误到底为什么会产生"，，，，，，不足跨轮次的连贯理解。。。。。 有个反直觉的发现：若是让推理agent（也就是真正干活的那个agent）在训练阶段也能直接读维基，，，，，，成效反而降落了，，，，，，从63.7%掉到60.9%，，，，，，LiveMath具体从72.6%掉到64.8%。。。。。 作者的诠释是，，，，，，若是推理agent训练时既能看技术又能看维基，，，，，，它可能会绕开技术，，，，，，直接从维基里"抄答案"，，，，，，这样产生的执行轨迹就不再能真实反映"技术好不好用"，，，，，，反而让后续的技术优化失去了准头。。。。。 这个发现挺有意思的。。。。。它揭示了一个容易被忽略的路理：给一个在被评估、在被改进的系统提供过多的"舞弊工具"，，，，，，反而会传染它本该产出的、用来领导改进的反馈信号。。。。。就像做产品用户测试，，，，，，若是测试员知路内部有份齐全的操作手册能够随时翻，，，，，，他就不会真实露出出"哪里让通常用户容易卡壳"，，，，，，测出来的数据也就没法真正领导产品改进了。。。。。 第0轮迭代，，，，，，维基守护者发现了一个基础的循环行为模式，，，，，，定名为"拿起-查抄-放回循环"，，，，，，agent反复做拿起物品、查抄、放回原处这套作为，，，，，，卡在原地打转出不来。。。。。技术提议者据此提了一个叫"指标导向行动"的技术，，，，，，了局验证集上阐发没有提升，，，，，，被回绝了。。。。。 但这次回绝没有白费，，，，，，审计日志把这次提案的具体内容和回绝原因都齐全记了下来。。。。。第1轮迭代，，，，，，技术提议者参考这份纪录，，，，，，提出了一个更具体的技术叫"突破沉复循环"，，，，，，里面写了一条很具体的规定："始终不要把物品放回它原来的地位"，，，，，，这次通过了。。。。。 之后随着更多轮次的执行轨；；；；；６鸭，，，，，，维基守护者又发现了新的循环变体，，，，，，好比"多操作循环"，，，，，，技术提议者在第4轮又把这条文则细化为"每种操作类型对每件物品只做一次"。。。。。 这个案例展示的是一个持续迭代、越改越准的过程，，，，，，而这个过程之所以能顺利进行，，，，，，全靠维基把每一步的失败和成功都纪录得清明显楚，，，，，，让后面的每一次扭转都能站在前面的经验之上，，，，，，而不是原地打转沉新摸索。。。。。 Qwen系列的模型偏差于天生更长的技术文档，，，，，，均匀118.9到128.6行，，，，，，而Gemma-4-31B和Gemini-3.5-Flash更左袒简洁，，，，，，别离是45.1行和81.2行。。。。。SpreadSheet这个工作产出的技术最长（142.5行），，，，，，堆集的维基模式也最多（9.8条），，，，，，而LiveMath产出的技术最短（84.6行），，，，，，维基模式也至少（4.4条）。。。。。这或许是由于电子表格操作涉及的谬误类型和天堑情况更多，，，，，，必要更详细的纪录去覆盖。。。。。 另表，，，，，，技术的打磨不是一次性的事件。。。。。论文把技术被接受的功夫点分成早期、中期、晚期三个阶段，，，，，，发现早期只占39%到52%的接受量，，，，，，剩下相当一部门扭转是在中期和晚期产生的，，，，，，尤其在SealQA这个工作上，，，，，，中期占33%，，，，，，晚期还有28%。。。。。这注明持续的知识堆集，，，，，，的确支持了逾越多个轮次的、越来越精密的技术打磨，，，，，，而不是那种"初版做完就没什么可改的了"的模式。。。。。 A：WikiSkill是一个让AI agent技术持续进化的框架，，，，，，主题创新是参与一个悠久的知识库"维基层"，，，，，，把agent的执行经验先提炼成结构化知识，，，，，，再据今天生和优化技术，，，，，，让技术改进能成立在不休堆集的认知之上，，，，，，而不是每次从零分析。。。。。 A：论文的消融尝试发现，，，，，，这样反而会让最终技术成效变差，，，，，，由于agent可能绕开技术直接从维基里找答案，，，，，，导致产生的执行数据不能真实反映技术好不好用，，，，，，传染了后续优化的反馈信号。。。。。