Piccolo 阿里 AgentScope 团队开源的决策模型系列

Piccolo是什么

Piccolo是阿里AgentScope团队开源的决策模型系列，含27B、9B、4B三个尺寸。Piccolo能直接输出结构化决策结果与概率，可嵌入智能体工作流的工具选择、权限判断、失败恢复等环节，能用于数据处理与游戏实时决策。27B在JevBench Public达92.21%、文本Decision Index达68.59，自建HarnessJevBench与DataJevBench两个场景基准并开源，研发采用递归自改进框架，通过研究Agent分析错题、迭代数据实现持续进化。

Piccolo的主要功能

• 工具选择 ：根据任务、证据与约束，从候选工具中判断该调用哪一个，如查询交付日期时选择订单系统。
• 模型路由 ：多个模型都能完成任务时，结合预算等因素选择执行资源。
• 上下文与记忆筛选 ：保留关键信息、过滤过期无关内容。
• 权限与信任判断 ：在权限边界内做决策，如仅获准保存草稿时选择保存而非直接发送。
• 完成验收与失败恢复 ：证据不足时继续核验，遇到临时故障时判断是否重试。
• 数据处理决策 ：判断清洗与去重的先后顺序、选择摘要方案、缺字段时请求补充信息、外发前判断是否需要脱敏。
• 游戏实时决策 ：根据游戏画面为移动、攻击、闪避等连续动作提供按键级指导，支持动作、益智与棋盘类游戏。

Piccolo的技术原理

• 决策接口形态 ：Piccolo 是专用的判断组件，接收状态、问题、候选项作为输入，通过双向 prompt 注意力让题面与候选项相互参考，直接从候选 token 的 logits 读出每个选项的概率，输出程序可直接消费的结构化决策，全程不产生任何生成文本。原生走 Jev 兼容的 /v1/systemone 端点，配套 flex_twice 输入排布优化推理路径。
• 统一数据工程 ：训练数据从开源社区收集的 665 万条样本出发，覆盖分类、检索、数理推理、偏好判断与工具使用等任务，统一整理为状态、问题、候选项、目标分布的决策格式，硬标签与软标签共用同一监督接口。团队基于 Data-Juicer 建立 13 个标注维度、551 个预定义取值的语义标签体系，所有数据入池前去重，并检查排除与评测基准的重叠，保证训练与评测隔离。
• 递归自改进闭环 ：研发由研究 Agent 驱动，核心信号是逐题 KL 损失。按语义标签切片汇总后，对偏差持续偏高的数据复核答案、检索相近材料或定向合成更多条件组合；对已充分学习的同质样本降采样或保留代表性回放，筛选配比、审计改写、定向合成、删除降采样被组合成不同实验方案。由 Agentic Data Engineering 组织多 Agent 按方案设计→构建实验→结果反馈→诊断更新推进，DataJuicer-Sandbox 将数据处理、训练、评测编排为可执行工作流，人类只设定目标、预算与数据范围。

如何使用Piccolo

• 在线体验 ：访问官网 https://decisionplayground.agentscope.io/ 直接试用，无需下载可感受 Piccolo 在各类判断任务上的决策效果。
• 下载模型 ：从 Hugging Face 按需求选择 4B/9B/27B 的完整权重或 BF16、Q8_0、Q4_K_M 三档 GGUF，GGUF 需把每个分片下到同一目录。
• 本地运行 ：从源码安装 QwenPaw 及其 Piccolo 兼容的 llama.cpp 运行时，在 Models → QwenPaw Local → Decision models 中下载 GGUF 并点击 Start，再到 Default models 里确认默认决策模型已指向它。
• 开启自动审核 ：在会话模型菜单中启用 Use decision model，并在工具审批设置中选择 Decision Model Mode，Piccolo 即可对每次工具调用做自动把关，保留人工审批回退。
• 开启上下文压缩 ：启用 Context Compaction 后打开 Decision Model Compaction 开关，Piccolo 会在上下文压力下判断哪些工具结果属于低相关可压缩内容。
• API 方式接入 ：如需嵌入自研工作流，可参考仓库 inference/ 目录的参考推理实现和 examples/ 中的最小请求示例，调用原生 /v1/systemone 端点，按状态、问题、候选项格式发送请求并解析结构化决策与概率。
• 观看演示回放 ：克隆仓库后运行 arena/ 下的交互式 Arena，可暂停、拖拽并逐条查看《绝区零》战斗等九个存档回放中每次决策的候选概率。

Piccolo的核心优势

• 全尺寸开源且许可证宽松 ：4B、9B、27B 三档模型连同权重全部以 Apache-2.0 发布，并提供完整权重与三档 GGUF，覆盖从云端到本地的全场景部署。
• 小尺寸性能突出 ：4B 即可拿下 JevBench Public 87.01%、Decision Index 58.00，超过多数竞品 9B 档水平，契合决策模型高频调用、成本敏感的需求。
• 评测成绩领先 ：27B 在 JevBench Public 达 92.21%、Decision Index 68.59，在团队 11 模型对比中 HarnessJevBench、DataJevBench、JevBench 三项均列第一。
• 决策接口低延迟 ：直接读取候选 token 的 logits 返回结构化结果与概率，配合双向注意力与 flex_twice 排布，天然适合嵌入工作流的高频判断环节。
• 阿里生态集成顺畅 ：模型托管于 ModelScope，已并入 QwenPaw 主线，可一键启用工具自动审批与上下文压缩，AgentScope 框架同源，上手路径最短。
• 全栈工程开放 ：递归自改进的数据管线、HarnessJevBench 与 DataJevBench 两个场景基准全部开源，社区可复现、可贡献。

Piccolo的项目地址

• 项目官网 ：https://decisionplayground.agentscope.io/
• GitHub仓库 ：https://github.com/agentscope-ai/Piccolo

Piccolo的同类竞品对比

对比维度 | Piccolo-27B（AgentScope） | JEV（Autotrust）

Piccolo的应用场景

• Agent 工具自动审批 ：嵌入 QwenPaw 或自研 Agent 运行时，对每次工具调用做判断，放行只读操作、拦截覆盖写入等破坏性命令，替代人工逐条审批。
• 上下文压缩与记忆筛选 ：在上下文压力增大时判断哪些历史消息与工具结果属于低相关内容，决定压缩或丢弃，同时保留关键信息。
• 数据处理工作流决策 ：在数据进入、清洗、脱敏、交付的各环节作判断，例如决定清洗与去重的先后、缺少税额字段时请求补充、外发前判断是否需要邮箱脱敏。
• 业务流程权限与验收判断 ：在 Agent 执行控制中判断操作是否越权、任务证据是否足以宣布完成、遇到临时故障时是否重试。
• 游戏与交互环境的实时决策 ：根据游戏画面为角色移动、攻击、闪避提供按键级动作指导，也可用于黑白棋、推箱子等需要局面判断的策略类游戏。