VeriLoop E2 清华大学开源的 27B 后训练模型

VeriLoop E2是什么

VeriLoop E2 是清华大学深圳国际研究生院机器人实验室开源的 27B 后训练模型，基于 Qwen3.8-27B，面向代码、数学与物理推理，Apache-2.0、原生 262K 上下文。VeriLoop E2 核心 VGR 机制把“模型提案”和“外部验证/持久化”分离，候选状态只有在保护证据坐标无退化且至少一项严格改进时才提交，否则回滚，模型不能自证成功。

VeriLoop E2的主要功能

• 开源后训练模型 ：基于 Qwen3.8-27B 的 27B 模型，Apache-2.0 发布权重与分词器，原生上下文 262,144 tokens，可用 vLLM 0.17.0 以 OpenAI 兼容方式服务。
• 代码与智能体能力 ：覆盖仓库级软件修复、终端/工具执行等任务，发布分数包括 SWE-bench Pro 76.2%、Terminal-Bench 2.1 88.8%、DeepSWE v1.1 64.6% 等。
• 数学与科学推理 ：面向竞赛数学与高难度科学问答，报告 AIME 2026 98.3%、ArXivMath 100%、GPQA Diamond 93.9%、Apex 2025 89.6%。
• 证据闭合科学演示 ：发布黎曼 ζ 零点比例 67.350003708785593% 的严格有限维证书，以及渐近引力子断层成像 T1–T9 框架与 6/6 通过的可执行证书套件。
• 可审计工程契约 ：公开 14 条 Golden Rules，约束长周期任务保持有界、可测试、可追溯，明确禁止伪造成功、资源预算后置或覆盖本地约定。
• 明确边界 ：生产版 VeriLoop Harness、私有编排与训练数据未包含；科学工件与模型许可证分开，结果不可外推为黎曼猜想或黑洞信息悖论已被解决。

VeriLoop E2的技术原理

• VGR 的总体机制： VeriLoop-Governed Recurrence 把一次任务求解建模为围绕已保留状态的候选状态转移：模型作为学习到的 proposer 生成候选潜变量位移或候选工件，固定 decoder 将其物化为输出，外部 verifier 在固定合同下返回受保护证据秩；只有当候选秩对现任秩满足弱支配且至少一个坐标严格改进时才原子提交，否则完整保留现任 bundle，仅把被拒绝的位移写入探索记忆。
• 受保护偏序与原子提交： 验证器合同定义有序义务列表 O = ( o 1 ​ , … , o m ​ ) 与秩向量 r ∈ N 0 m ​ ，坐标越小表示剩余违例越少；提交谓词 χ t ​ = 1 { r t ′ ​ ≺ P ​ r t ​ } 要求逐坐标不恶化且至少一坐标严格改善，因此聚合分数变好不能掩盖单点回归，不可比或回归候选一律拒绝。提交单位是绑定工件、潜状态、验证结果与摘要的 CertifiedBundle，拒绝时整个 bundle 原样保留，保证可回滚、可重放，由整数势下降推出严格提交次数有限。
• 证据反馈与拒绝探索： 每次尝试后，证据编译器 Γ 在替换现任验证对象之前，从“现任结果—候选结果—提交决策”计算有界模型可见特征，例如秩和压缩、改善/恶化/持平比例、提交与零秩指示等；只用于条件化下一步提案，不具备提交权。被拒绝的位移进入探索记忆 E t ​ ，可影响后续搜索但不能覆盖已保护状态，使失败轨迹“有信息但不持久”。
• 后训练监督接口： 由于 VGR 标签定义在任务级状态转移上，E2 用 1,841,831 条结构化记录做后训练：验证过的严格进展动作提供纠正监督，不可提交候选提供对比负例，零秩工件提供最终生成目标；损失由成对偏好 logistic 项、动作 NLL 与生成 NLL 加权组成，采用 QLoRA-4/bfloat16、梯度检查点、按能力面路由与 protected-core replay。报告强调这让学习改善“提案分布”。

如何使用VeriLoop E2

• 获取模型 ：从 Hugging Face 拉取 tsinghua-sigs-robot-lab/VeriLoop-E2 ，保留仓库自带 tokenizer、chat template 与配置。
• 准备环境 ：安装 Python 3.12.x、PyTorch 2.10.0 + CUDA 12.9、Transformers 4.57.6、Triton 3.6.0，执行 python -m pip install "vllm==0.17.0" 。
• 启动服务 ：运行 VLLM_USE_MODELSCOPE=true vllm serve MODEL_PATH_OR_HF_ID --served-model-name veriloop-e2 --dtype bfloat16 --model-impl vllm --language-model-only --max-model-len 131072 --max-num-seqs 16 --gpu-memory-utilization 0.92 --generation-config vllm --host 127.0.0.1 --port 8001 。
• 先做冒烟测试 ：向 http://127.0.0.1:8001/v1/chat/completions 发送 temperature: 0 的小请求，确认返回如 8001_OK 再接入正式流量。
• 按 OpenAI 协议调用 ：使用 model="veriloop-e2" 的 /v1/chat/completions ，Python 侧用 OpenAI(base_url="http://127.0.0.1:8001/v1", api_key="EMPTY") 创建客户端。
• 把模板当作协议一部分 ：不要替换角色分隔符、工具调用语法、停止语义或推理历史格式，即使权重不变可能改变工具使用与系统行为。
• 规划长上下文资源 ：发布 tokenizer 原生上限为 262,144 tokens，但公开验证服务长度为 131,072 tokens，更长窗口需自行评估显存与 KV cache。
• 区分模型与 Harness 权限 ：E2 只负责提案、抽象、诊断和修复；证据接纳、确定性检查、提交/回滚、终止和持久化应由你自己的 verifier/Harness 实现。

VeriLoop E2的核心优势

• 生成与验证解耦 ：模型只负责提案、诊断和修复，外部 Harness 独占接纳、回滚、终止与持久化权，避免模型自证成功。
• 防回归的提交规则 ：VGR 仅在“保护证据坐标无退化且至少一项严格改进”时提交，聚合变好不能掩盖单点回退。
• 原子回滚与安全失败 ：拒绝候选保留完整 CertifiedBundle，失败轨迹可复用但不覆盖已验证状态。
• 监督信号来自真实验证 ：后训练用严格进展、不可提交负例和零秩终稿构造偏好/NLL目标。
• 较强综合能力 ：27B 规模下覆盖代码智能体、终端执行、数学与科学推理，报告 SWE-bench Pro 76.2%、AIME 2026 98.3%、GPQA Diamond 93.9% 等成绩。
• 长上下文与开放服务 ：原生 262,144 tokens 上下文、Apache-2.0 权重，提供经 vLLM 0.17.0 验证的 OpenAI 兼容服务路径。
• 可审计而非只报分数 ：评估证据包按任务绑定身份、输出、原生执行/评估记录、通过与失败及完整性元数据。

VeriLoop E2的项目地址

• HuggingFace模型库 ：https://huggingface.co/tsinghua-sigs-robot-lab/VeriLoop-E2
• 技术论文 ：https://openreview.net/pdf?id=P6FIQILHwX

VeriLoop E2的同类竞品对比

对比维度 | VeriLoop E2 | VeriLoop Coder-E1

VeriLoop E2的应用场景

• 仓库级代码修复 ：用于 SWE 类任务中生成补丁、诊断回归并由测试/评估器决定是否保留，适合“修改必须可验证”的维护场景。
• 终端与工具智能体 ：在 Terminal-Bench 类环境里执行命令、调用工具、按证据触发下一步，并以通过/失败凭证控制是否推进。
• 数学推理与竞赛求解 ：面向 AIME/ArXivMath 类高难推导，多轮采样后用外部判定保留可复现解答，减少只看单次答案的侥幸。
• 科学计算与理论物理探索 ：在黎曼 ζ、量子场论、渐近引力子等研究中辅助提出构造、定位证明缺口。