← 返回首页

DeepSeek Flash — 测试报告

DeepSeek Flash(deepseek-v4.1-flash)路口调度测试最终报告

结论摘要

DeepSeek Flash 有效运行得分 748.30,是这批 v16 模型里最高的一局。它比 balanced baseline(674.49)高 73.81,比 search baseline(788.38)低 40.08。但三次运行的均值只有 642.8,标准差 75.95,波动是四个模型中最大的:另外两次分别是 607.47 和 572.62,都低于 balanced baseline。所以这次最高分里运气成分不小。最佳一局赢在前半局:前 114 拍放行 95 辆车,ID 引用零错误,横道断言正确率 91.7%。输在后半局:一起 5 车连环事故,抛锚拖车很慢,最后 52 拍里有 20 个周期 hold。

  1. 大波次放行能力强。 c5、c7 两次放行 16 辆车(规则上限),而且都是试算报"超过 16 辆"后主动缩减批次再成功。
  2. 行人几乎被放弃。 30 次行人相位尝试只成功 9 次,合法放行 5 人;15 人闯红灯,3 人受伤。行人耐心中断的响应率 0.39。
  3. 抛锚响应慢。 4 辆抛锚车等了 27–29 拍才派拖车。有 1 起连环事故来自尾随司机:模型放行的 V00049 后面跟着抢行的 V00054,最终 5 车相撞,锁格扣费 16.6。

0. 分数与稳定性

排名运行最终余额放行车辆事故锁格扣费上游积压其他
1114857254-73552748.30123427.4647.72—
2141147819-122688607.471377123.68—校车罚 20
3114857242-96632572.62965126.7080.55—

均值 642.8,最低 572.62,标准差 75.95。第二、三局的锁格扣费都超过 120,是最佳一局的 4.5 倍。说明这个模型能否避开连环事故很不稳定。第二局放行车辆最多(137),反而得分低,原因是事故成本吃掉了通行收入。

策略最终余额放行车辆未服务负债事故锁格扣费上游积压撞人闯红灯罚校车拖车
deepseek-flash748.30123189.0427.4647.72158.009.6
baseline-balanced674.4984219.6621.3058.85255.508.4
baseline-search788.38122185.423.6945.85106.708.4

余额拆解:起始 1000,局内累计变化 −76.10,终局通行费 +13.4(四个模型中最高,说明终局还有大量车在路口内行驶),未服务负债 −189.0(406 辆车未服务),合计 748.30。

时间段周期数放行车辆hold 周期局内余额变化上游积压锁格扣费撞人
tick 61–1407621−8.551.7100
tick 140–1759332+0.595.6300
tick 175–21014108−15.645.9216.685
tick 210–261241820−52.5034.4610.7810

相对 search baseline 的 40 分差距:锁格扣费多 23.8,撞人多罚 5,未服务负债多 3.6;终局通行费多 13.4,抵掉了一部分。

1. 基础分析

1.1 上下文能力

指标数值
每次请求 prompt tokens平均 22,308,P95 36,993,最大 50,748
每次回复推理 tokens平均 5,278,P95 14,934,最大 22,011
每周期 API 轮数平均 3.4,最多 5(上限 8)
工具参数里的 ID542 个,100% 能在当轮上下文中找到
非规范 ID / 重复失败调用0 / 0
working memory未使用

判读:ID 引用零错误,推理 token 比 V4 Pro 少约 1/3。但自我修正标记高达 8,526 次(平均每次回复 46.1 个,四个模型中最多),推理里大量"Hmm wait / Actually"。

1.2 注意力分布

v16 的观测里没有车道矩阵、出口和 reservedUntil 等字段,这些概念不参与统计。

关注较多(≥0.9)关注中等(0.75–0.9)关注较少
横道、候选冲突、行人预警、正在放行车道(1.0);时间预算 0.96;停止线候选 0.94;抛锚 0.92;紧急车 0.91司机预警 0.89、上周期回顾 0.89、被撤销放行 0.80、hold 0.76、上次结算 0.76在路口车辆 0.68、车道引导机会 0.59
唤醒原因次数有响应响应率
ACCIDENT_INTERRUPT881.00
VEHICLE_RED_LIGHT441.00
VEHICLE_TAILGATE111.00
PEDESTRIAN_JAYWALK1560.40
PEDESTRIAN_PATIENCE28110.39

判读:对车辆和事故的唤醒全部有响应,对行人的唤醒有六成被忽略。另外,对在路口行驶车辆的关注率只有 0.68,与后面"放行车辆冲进连环事故"的问题对得上。

1.3 tool_call 准确性

整体 298 次调用,成功率 78.9%;56 次回复并行发出多个工具调用,最多一次 8 个。

工具调用成功率说明
dry_run_admit10338.8%车道头未就绪 20、资源冲突 20、额度用完 14、超过 16 车 4、规划视野超限 3、top_n=9 超限 1
commit_schedule53100%—
inspect_crosswalk / inspect_lane_queue / inspect_incident59 / 33 / 24100%检查工具用得最多
order_accident_clearance / dispatch_tow_truck / dispatch_emergency_convoy17 / 8 / 1100%—
从未使用——working memory、绕行、改道、车道引导

判读:试算失败里"车道头未就绪"多达 20 次,说明它常对还没到停止线的车道发起放行。"超过 16 车"出现 4 次,说明它倾向于把批次堆满。

1.4 Agent 能力

指标数值
先试算再提交92.5%
提交构成verified 18、unverified 4、hold 31
每周期放行车数平均 2.3,最多 16
速度档位全部 CRUISE
sleep_ticks平均 7.1;10 拍 24 次
决策开销API 185 次扣 3.70,非终结工具 245 次扣 0.37
fallbackc26 一次

判读:常用的流程有"试算两次再提交"(DDC 10 次)和"先 5 次检查再提交"。hold 周期占 57%,后半局尤其保守。

2. 进阶分析

2.1 逻辑推理

  1. 横道几何是四个模型里最准的。 325 条断言,正确率 91.7%;前半局 57 条错 9 条,后半局 268 条错 18 条。错误样例:
    • c7:「N_S1_STRAIGHT (north straight, heading south) crosses the east」(实际经过北、南横道)。
    • c9:「E_L1_LEFT (V00079) turning left would cross the N」(实际经过东、南横道)。
    • c17:「S_R1_RIGHT cross the WEST」(实际经过南、东横道)。
  2. 会算抢行司机的账,但只算了一半。 c16 推理:「V00095 (aggressive, patience 0) behind V00087 in W_S2. It would tailgate and enter illegally, not paying. We should include V00095 in the batch as a legal admit to get its revenue」。它把尾随者变成合法放行。但同批放行的 E_S1/E_R1 车辆(V00170、V00181)两拍后冲进了 INC0001 连环事故。
  3. 沿用上周期结论,不重新验证。 c42 推理:「Let me trust the prior analysis somewhat but re-derive… Clean routes: W_R1_RIGHT and S_L1_LEFT per prior」。最后它没有重新推导,而 W_R1_RIGHT 经过西、南横道,那里的行人耐心只剩 12 和 4(见 2.4 第 1 条)。
  4. 纠错能力中等。 试算失败 49 次,再试 30 次,成功 13 次(43%);35 次失败后最终 hold。"说安全却冲突" 16 次。

2.2 复杂环境博弈

行人。 30 次相位尝试中 9 次成功,合法放行 3 批共 5 人:c13 t158 东横道 3 人,c24 t188、c25 t196 西横道各 1 人。15 人闯红灯(罚 8.0),3 人受伤(罚 15);行人告急时仍放行经过该横道的车辆 73 车次,被撞的 3 人都在告急预警里。

事故。

事故类型发生–关闭车辆估算成本责任来源
INC0001连环事故 CRITICAL176–208516.6c10 放行 V00049、c12 V00081、c16 V00170/V00181,加上尾随者 V00054
INC0002撞人 SERIOUS186–20116.6c22 放行 V00155(N_R1_RIGHT)
INC0003连环事故 CRITICAL213–234311.5闯红灯 V00062、V00038 + c25 放行 V00098(E_L1_LEFT)
INC0004撞人 SERIOUS248–局终17.7c42 放行 V00129(W_R1_RIGHT)

4 起事故的首次响应都在 1 拍内。

抢行司机。 尾随者 V00054 在被提示 2 次之后,于 c15 抢行,造成 INC0001。V00062 和 V00038 在 c26 闯红灯,造成 INC0003。

抛锚。 9 次抛锚里 4 次的派车延迟在 27–29 拍:V00006、V00014、V00068 各 27 拍,V00122 等了 29 拍。另外 4 次在 1–10 拍内派出,V00209 到局终都没派车。拖车总费用 9.6。

紧急车辆。 c10 对 V00034(已经静止 73 拍)调用紧急车队,成功清出 S_L1 车道。V00056、V00212、V00235 到局终都没有放行。

2.3 亮眼操作

  1. c5 t101 与 c7 t121:两次 16 车满额波次。 两次都先因为"超过 16 辆"失败(分别报 18 辆和 20 辆),再缩减批次后试算通过。c7 摘要:「All straights/lefts blocked (RESERVATION) until 145-153 … Admitted 4 right-turn lanes Top-N (16 veh, reward 11.5), incl emergency V00036 head of W_R1」。直行被预约封住时,它改用四条右转车道补足流量,还顺带放行了紧急车。
  2. c6 t111:东向 12 车波次,收益 18.3,是单周期收益最高的一次。
  3. c10 t142:紧急车队清车道。 推理:「emergency vehicle V00034 … has been stationary 73 ticks! … dispatch_emergency_convoy which releases the cars ahead as a zero-gap convoy. That clears route S_L1_LEFT」。它准确理解了工具语义。
  4. c36 t220:连环事故期间仍找到安全通道。 先检查事故和两个横道,再下令清障,然后放行 9 辆东西直行车。摘要:「Only clean axis = E-W through (WEST crosswalk jaywalker gone; EAST no jaywalker yet)」。

2.4 最差操作

  1. c42 t237:沿用旧结论,单放一车撞人。 南横道两名行人耐心都是 4,西横道 12 和 20。模型认定「only W_R1_RIGHT (clean) & S_L1_LEFT admissible」,试算额度用完后,没有经过验证就把 V00129 放行了。W_R1_RIGHT 经过西、南横道,tick 248 V00129 在西横道撞人(INC0004),到局终都没关闭。
  2. c16 t174:11 车东西波次冲进连环事故。 南向 S_S2 车道上 V00049(c10 放行)后面的尾随者 V00054 已经被提示过 2 次。模型在 c16 仍放行 E_S1/E_R1。tick 176,V00054 抢行形成 5 车连环事故,V00170、V00181 都被卷入。这一局的事故成本里,c16 分摊 8.31。
  3. c25 t196:E_L1 放行后撞上闯红灯车。 6 辆 E_L1 车(只有这条路线未被堵住)加上一批西横道行人。当时 V00062、V00038 在 N_S1/N_S2 停止线上耐心为 0,已经在司机预警里。tick 213,二车闯红灯与 V00098 相撞(INC0003),分摊 11.54。
  4. c22 t184:单放 V00155 撞人。 摘要:「Only free head = V00155 (N_R1_RIGHT) -> admit to keep right-turn flow + suppress WEST jaywalk」。当时西横道有一名行人耐心为 0,另外两名只剩 15 和 16。tick 186 V00155 撞人(INC0002)。
  5. tick 210–261 收缩。 24 个周期里 20 个 hold,只放行 18 辆,上游积压 34.46。

3. 损失链条

前半局大波次放行(前 114 拍 95 辆车,几乎无损失)
        ↓
后续车道里堆积了耐心为 0 的抢行司机,模型只"合法化"自己看到的一辆
        ↓
tick 176 尾随者抢行 → 5 车连环事故,模型 c16 放行的车辆也被卷入
        ↓
事故锁住大量格子 + 行人大量闯红灯 → 后半局 hold 占 83%
        ↓
上游积压 34.46 + 两起"单放一车"撞人 + 终局 406 辆未服务

4. 评测局限

  1. 规则版本 16 的环境限制。 系统提示里没有路线-横道规则;横道上看不到未来车辆预约;不接受短键别名。行人奖励要等行人走完全程才结算,所以这一局和两个 baseline 的行人奖励都是 0。v16 观测未压缩,与 v17 之后的结果不能直接比较 token 用量。
  2. 仍存在的引擎问题。 闯红灯检查只把"本拍在动"的车当作威胁;已在路口内的车不会为事故刹车,试算也只检查当前的锁。INC0001 里 c16 车辆被卷入,就与后一点直接相关。
  3. 统计口径是启发式的。 注意力、横道断言和矛盾检测靠正则匹配推理文本;事故成本按"锁格 × 严重度 × 开放时长"分摊。如果放行后在真正进入前被撤销,车辆算自行进入,不算到提交周期头上。
  4. 样本量与运气。 三次取最好、单一种子。flash 的标准差高达 75.95,这个最高分不能代表它的平均水平,横向比较时建议同时参考均值。