Level 68 | 零基础导学关卡
Speculative Decoding Benchmark
投机解码 benchmark 比较的是完整 draft+verify 路径。接受率高只是其中一项，草稿成本、验证成本和回退都影响收益。
本课官方 Notebook ↗投机解码 benchmark 比较的是完整 draft+verify 路径。接受率高只是其中一项，草稿成本、验证成本和回退都影响收益。
先不看公式：用上面的生活场景，说一说这节课想减少哪种浪费、需要付出什么代价。
本课中的「acceptance rate」指什么？
用一个小动作确认自己理解了；最后再进入官方题目。
先用默认数值手算，再只改一个参数。让结果来检验你的猜想。
假设普通解码每 token 花 10 个时间单位。
草稿+验证合计 30 单位，最后推进 2 token，平均 15/token，反而慢；推进 4 token 才是 7.5/token。
检查后端确实启用 speculative。普通 target-only 服务可以做 baseline，不能算已开启投机。
调整首次拒绝位置与验证成本，看看有效推进量如何影响收益。
教学简化模型：所有数值来自上方规则，不是 GPU 性能实测。播放可以暂停，键盘方向键可调整滑块。
一轮成本 30，只推进 2 token，平均成本是多少？
用一个小动作确认自己理解了；最后再进入官方题目。
下面是一段独立的小练习。它把计算关系写清楚，帮助你进入官方题目；不是整份作业的答案。
round_cost, progress = 30, 2
per_token = round_cost / progress
print(per_token) # 15 > baseline 10先找输入变量，再找中间量，最后核对注释里的输出。改一个输入，手算后再运行。
把 draft 提出长度当作实际推进长度，或用接受率替代最终吞吐测量。
同学提出下面的做法，哪一项会导致本课讨论的误判？
用一个小动作确认自己理解了；最后再进入官方题目。
把理解变成自己的代码
在本页用小例子建立直觉，再去官方 Notebook 完成实现。先运行你自己的测试，遇到困难时再查看官方提示与参考答案。
simulate_speculative_decode · summarize_speculative_benchmark · compare_speculative_to_baseline · recommend_speculative_run
先找题目里的输入、输出与 TODO，再把本课的手算过程对应进去；以官方题目中的函数说明和测试为准。
练习来源：Datawhale 官方仓库 · 518cc45。这里的入口直接打开官方版本，不读取或分享你的本地 Notebook。