Level 70 | 零基础导学关卡
Serving Scheduler Benchmark
调度器 benchmark 既看吞吐，也看排队与尾延迟。平均等待可以掩盖少数特别慢的请求，服务目标必须一起检查。
本课官方 Notebook ↗调度器 benchmark 既看吞吐，也看排队与尾延迟。平均等待可以掩盖少数特别慢的请求，服务目标必须一起检查。
先不看公式：用上面的生活场景，说一说这节课想减少哪种浪费、需要付出什么代价。
本课中的「arrival」指什么？
用一个小动作确认自己理解了；最后再进入官方题目。
先用默认数值手算，再只改一个参数。让结果来检验你的猜想。
先固定到达时间、输入输出长度和并发条件，保存每个请求的完成记录。
等待为 1、1、1、17，平均只有 5，但仍有人等了 17。小样本的“最慢”也不应随意称为 P99。
候选吞吐上升但超出规定尾延迟门槛，应调参或拒绝，不能只报好看的指标。
三个任务同时到达，比较 FIFO 与短任务优先。
教学简化模型：所有数值来自上方规则，不是 GPU 性能实测。播放可以暂停，键盘方向键可调整滑块。
等待 1、1、1、17，平均值与最大值分别是多少？
用一个小动作确认自己理解了；最后再进入官方题目。
下面是一段独立的小练习。它把计算关系写清楚，帮助你进入官方题目；不是整份作业的答案。
waits = [1, 1, 1, 17]
print(sum(waits)/len(waits), max(waits)) # 5, 17先找输入变量，再找中间量，最后核对注释里的输出。改一个输入，手算后再运行。
把平均延迟通过说成所有请求都通过，或在不同到达流下比较调度算法。
同学提出下面的做法，哪一项会导致本课讨论的误判？
用一个小动作确认自己理解了；最后再进入官方题目。
把理解变成自己的代码
在本页用小例子建立直觉，再去官方 Notebook 完成实现。先运行你自己的测试，遇到困难时再查看官方提示与参考答案。
simulate_serving_scheduler · summarize_serving_scheduler_runs · compare_scheduler_to_baseline · recommend_serving_scheduler_run
先找题目里的输入、输出与 TODO，再把本课的手算过程对应进去；以官方题目中的函数说明和测试为准。
练习来源：Datawhale 官方仓库 · 518cc45。这里的入口直接打开官方版本，不读取或分享你的本地 Notebook。