ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

little-coder dispatch 子代理实战:小模型查资料不污染主会话的完整指南

little-coder dispatch 子代理实战:小模型查资料不污染主会话的完整指南 little-coder dispatch 子代理实战小模型查资料不污染主会话的完整指南【免费下载链接】little-coderA harness optimized to smaller LLMs项目地址: https://gitcode.com/gh_mirrors/li/little-coderlittle-coder是一个为小参数本地模型small LLM深度调优的开源编程智能体内置 [dispatch] 工具可以派出分身sub-coder子代理去读代码、查网页只把一份精简报告带回主会话。本教程面向新手带你从零理解 little-coder 小模型编程智能体如何用小模型分身查资料还不污染主会话上下文dispatch 子代理能读仓库、能上网却永远改不了你的文件。小模型的上下文窗口通常只有 16K~32K token。你让它顺便看看认证模块怎么写的它可能一口气读进几十个文件主对话瞬间被原始文件内容撑爆后续指令开始失忆。little-coder 的Sub-coderdispatch机制就是为这个问题而生派一个隔离的子会话去调研主会话只收到 ≤2000 字符的结论。为什么小模型最需要分身查资料小模型的两个致命短板恰好都会发生在查资料环节上下文稀缺一次Read大文件 两轮网页抓取16K 窗口就去了大半留给真正写代码的空间所剩无几。注意力被稀释原始文件内容和日志铺满对话后小模型容易忘了最初的指令开始跑偏。little-coder 的解法不是更聪明地压缩而是物理隔离每个 sub-coder 跑在全新的、独立的上下文窗口里它翻过的每个文件、抓过的每个网页都留在它自己的会话中结束后只有那份简短报告进入你的主对话。dispatch 子代理能做什么、不能做什么dispatch工具由 spawn.ts 引擎驱动。它会把 little-coder 启动器重新拉起来headless 模式子代理继承与主会话完全相同的本地模型、扩展和 AGENTS.md 系统提示——这保证了分身和你本人体力一致而不是一个空壳代理。可以用的工具由 SUBCODER_ALLOWED_TOOLS 白名单强制类别工具读仓库read / grep / glob / find / ls / 只读 bash上网查webfetch / websearch / Browser 导航·点击·提取系列被明确禁掉的write、edit以及dispatch本身防止子代理再派子代理形成分身炸弹。也就是说子代理天生是只读调研员——它读不了你的文件就改不了你的文件这是运行时强制不是提示词层面的君子协定。调研完成后子代理会被自动追加一条汇报指令报告控制在约 200 词以内、给出文件:行号级引用、禁止粘贴大段文件内容。报告上限 2000 字符MAX_REPORT_CHARS超出的部分会被截断。快速上手单任务 dispatch 怎么用你不需要手工拼 JSON——little-coder 会自动选择 dispatch 技能卡每次仅 140 token注入给模型它知道何时该派分身。你只需用自然语言提需求先查一下这个仓库里会话是怎么持久化的总结格式然后告诉我结论典型调用形态如下模型内部实际发出的工具调用{name: dispatch, input: {task: Find where sessions are persisted in this repo and summarize the format.}}运行时你会看到输入框上方出现一个实时追踪面板由 tracker.ts 驱动列出每个分身的标签、状态、耗时和当前动作比如正在grep src/。子代理完成后主对话里只多出这样一小段### 会话持久化 - 持久化入口src/session/save.ts:42JSON 落盘到 .pi/sessions/ - 字段包含 id、messages 数组与最后活跃时间……完整对话日志并没有消失——它保存在工具结果的details里点开工具卡片就能看到子代理每一步的完整转录但这些内容永远不会进入主模型的上下文。这就是查资料还不污染主会话的全部秘密。并行模式最多 4 个分身同时查资料当一个问题可以拆成几条独立的线索时用并行模式一次派多个分身上限 4 个{name: dispatch, input: {tasks: [ {label: repo auth, task: How does authentication work in this codebase? Cite files.}, {label: lib docs, task: Look up the current recommended API for the jose JWT library online.} ]}}两个实践要点每个任务必须配一个短且互不重复的label它会显示在追踪面板里混了就分不清谁在查什么。问题要窄、要可回答。认证怎么实现的是合格任务把这个项目研究一遍不是——技能卡明确要求how does auth work in this repo?而不是 do everything。本地模型用户必看串行 vs 并行的取舍这里有一个小模型用户特有的坑你的本地推理服务llama.cpp / Ollama通常是单进程的。两个分身同时打同一个模型服务会互相抢算力总耗时反而比排队更慢。所以 little-coder 的默认策略是串行执行子代理需要真并行时通过环境变量显式打开spawn.ts 并发控制# 云模型用户可放心并行 export LITTLE_CODER_SUBCODER_CONCURRENCY2 little-coder经验法则云端模型Claude、GPT、Gemini 等放心开并发 2~4越快越好。本地 8GB 显存小模型保持默认串行或最多2把省下的显存留给真正写代码的主会话。实战技巧dispatch 与 Deep Research 怎么分工little-coder 里有两个派分身的入口新手最容易搞混dispatchSub-coderDeep ResearchF2调研对象当前仓库 网络外部/在线资料临时沙盒目录触发方式对话中自动 / 显式要求按 F2 或/deep-research 主题产出主对话里的简短报告一份带引用的独立 Markdown 研究报告典型场景这个函数被谁调用了调研 Rust 异步运行时的现状官方 README 特意提醒f2 不是用来探索你手边代码的探索代码库请用普通会话或dispatch。配套的方法论可以看 task_decomposition.md把任务拆成 GIVEN/UNKNOWN/PLAN和 research_protocol.md。另外两个相关机制值得一并了解Plan Modectrlq规划阶段也大量使用 sub-coder 调研批准计划后用/implement在一个全新会话里开始实现——调研消耗的上下文不会吃掉实现阶段的空间。背景任务ShellStart长命令训练、构建挂后台事件驱动唤醒不占用轮次。细节见 README 的 Background jobs 章节。延伸阅读项目里的相关模块dispatch工具注册与参数定义index.ts子代理生成引擎环境约束、报告截断、超时强杀spawn.ts实时追踪面板渲染tracker.ts工具用法技能卡模型侧提示skills/tools/dispatch.md架构总览扩展如何被加载README 的 Architecture 章节 与 docs/architecture.md常见问题Q子代理真的不可能改坏我的文件吗A双重保险。工具白名单在子代理进程里由tool-gating扩展在 schema 和运行时两层强制bash又走 permission-gate 的只读命令白名单。rm、sudo这类前缀天然不在白名单内。Q子代理的完整日志去哪了A在dispatch工具卡片的 details 里UI-only随时可展开查看它只是不进模型上下文。Q一次可以派几个A并行最多 4 个再多会被直接拒绝并报错。Q小模型跑 dispatch 会不会很慢A每个分身都是完整的推理会话耗时与主会话相当。默认串行正是为此设计的——用等一会儿换主上下文干净对小模型这笔账通常很划算。小结little-coder 的 dispatch 子代理本质上是给小模型装了一块上下文防火墙分身独立窗口干活翻山越岭不拖累主对话只读白名单从运行时层面保证分身改不了文件≤2000 字符的报告是唯一回传物完整日志留在工具详情里备查本地模型默认串行、云模型可开并发按算力自由伸缩。装好 little-codernpm install -g little-coder后下次面对陌生代码库先让分身去查主会话专心写代码——这就是小模型编程智能体的正确打开方式。【免费下载链接】little-coderA harness optimized to smaller LLMs项目地址: https://gitcode.com/gh_mirrors/li/little-coder创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表