如何测试 CDN 缓存命中与未命中请求的首字节时间
测试 CDN 缓存命中与未命中请求的首字节时间,核心是同时证明两件事:这次请求实际处于什么缓存状态,以及首字节到达之前的时间花在了哪里。应优先选取一个无登录、内容稳定、允许共享缓存的 GET 资源,固定 URL、请求头和网络出口,记录缓存证据与 curl 计时,而不是把“第一次慢、第二次快”直接解释为缓存生效。
这个实验主要涉及客户端到 CDN 的连接、边缘缓存处理、上层缓存或回源链路,以及必要时的源站处理。新连接与复用连接、IPv4 与 IPv6、边缘未命中与真正到达源站,都会改变结果。如果 HIT 和 MISS 的差距主要出现在 DNS 或 TLS 阶段,应先处理接入与测试口径;只有差距稳定出现在请求发出后的等待阶段,才适合进一步分析缓存和回源收益。
先定义测量对象:首字节不等于源站处理时间
同时保留完整 TTFB 和请求准备后的等待时间
curl 的 time_starttransfer 表示从本次操作开始,到收到响应首字节的累计时间。对一个没有重定向、没有显式代理、使用新建 HTTPS 连接的简单 GET 请求,它通常包含 DNS 解析、TCP 建连、TLS 握手、请求发送,以及服务端处理与响应返回所需的时间。
因此,直接比较两次 time_starttransfer,得到的是该客户端视角下的首字节体验差异,不是纯粹的“缓存读取比源站处理快多少”。建议保留两组指标:
完整 TTFB:
time_starttransfer,用于描述包含连接准备的访问体验。请求准备后的等待近似值:
time_starttransfer - time_pretransfer,用于减少连接准备差异的干扰。
第二个值仍包含请求传输、客户端到边缘的往返、边缘排队、缓存查找,以及可能发生的上层访问和回源,不能命名为“源站执行耗时”。如果需要源站执行时间,必须结合服务端日志或链路追踪。
根据 curl 官方计时定义,这些时间字段都是从操作起点累计的值。对于上述简单 HTTPS 请求,可以用差值辅助定位:
指标 | 计算方式 | 能辅助判断什么 |
|---|---|---|
DNS 解析 |
| 名称解析是否引入明显等待 |
TCP 建连近似耗时 |
| 客户端到连接目标的建立过程 |
TLS 握手近似耗时 |
| HTTPS 握手等待 |
请求准备后等待 |
| 请求发送、边缘处理及上游等待的合计影响 |
首字节后传输 |
| 响应后续传输,而非首字节等待 |
这套拆分不宜原样套到 HTTP/3、代理隧道、复杂认证或重定向链。尤其不要把 time_connect 当成单独的 TCP 耗时,也不要把 time_appconnect 全部计为 TLS 耗时。
缓存冷暖与连接冷暖是两个独立变量
缓存 HIT 不代表连接已经建立,缓存 MISS 也不代表一定需要新建连接。一次新连接 HIT 可能因为握手而比复用连接 MISS 更慢,这不能证明缓存没有价值。
建议先做“独立 curl 进程、新建连接”的基础实验,让命中组和未命中组都承担连接成本。之后再单独做连接复用实验,更接近页面连续加载资源的场景。curl 可以在同一次调用的多个传输之间尝试复用连接,但不同 curl 进程之间不会共享连接;num_connects 可以辅助确认当前传输是否新建连接。
基础实验可以固定 HTTP/1.1,以减少多路复用和协商差异。生产使用 HTTP/2 或 HTTP/3 时,再补充相应协议的测试,并分别报告结果。不要把不同协议、不同连接状态的样本放进同一个缓存收益对比组。
缓存状态要靠证据分类,不能靠快慢倒推
HIT、MISS、重新验证和绕过必须分开
边缘直接复用新鲜对象,通常不需要等待上游,适合作为 HIT 对照组。边缘没有可用对象时,则可能访问上层缓存、回源代理或源站。过期对象还可能经过条件请求重新验证;配置绕过缓存的请求,则根本不属于可被正常预热的对象。
状态类别 | 可能发生的处理 | 在实验中的位置 |
|---|---|---|
新鲜命中 | 当前缓存层直接复用对象 | HIT 主对照组 |
未命中 | 向上层缓存或源站获取对象 | MISS 组,但要标注观测层级 |
重新验证 | 使用验证器向上游确认对象是否变化 | 单独分组,不并入普通 HIT |
绕过或不可缓存 | 按规则转发,通常不形成后续命中 | 动态或 BYPASS 对照组 |
陈旧内容响应 | 可能先返回旧对象,再后台更新 | 单独标记,分析一致性与后台回源 |
响应头中的 HIT、MISS、BYPASS 等只是常见表达,不是所有 CDN 通用的字段或值。有的响应会显示多级缓存结果,有的只显示最近一层。应以账户使用的产品说明和日志字段为准,先确认字段描述的是哪一层。
Age 可以作为辅助证据,但不能独立完成分类。Age: 0 可能出现在刚存入或刚验证的对象上;没有 Age 也不能直接断言未缓存。多级缓存还可能把上层对象的年龄带到下层。关于这些字段的基本边界,可结合 HIT、MISS 与 Age 的解释核对。
边缘 MISS 不一定到达企业源站
这是会改变排查顺序的重要判断:如果只能证明边缘 MISS,就先分析“边缘到上游”的代价,不要直接归因于企业源站慢。 上层缓存命中时,源站可能完全没有收到这次请求。
需要验证真实回源时,应关联请求时间、测试资源路径、边缘请求标识、上层日志和源站访问记录。源站没有记录之前,还要排除日志采样、写入延迟以及请求被前置网关终止的可能。最容易执行的关联方式,是为实验使用独立、无敏感信息的资源路径,并在短时间窗口内查找对应请求。
同样,浏览器收到 200 不能证明边缘没有向源站做过条件验证;边缘可能接收上游 304 后,使用已有实体向客户端返回 200。客户端直接收到的 304 则没有普通完整响应体,不应混入普通 GET 200 的首字节样本。
准备可比较的资源和测试条件
使用独立测试路径,而不是直接清理热门生产对象
选择一个真实存在、内容稳定、体积适中且没有个性化数据的文件,例如示例路径 /cdn-test/ttfb-v1.txt。应确认它不会跳转到登录页,不依赖 Cookie,也没有必须执行的第三方接口。先手动下载并检查正文,避免把返回 200 的验证码页、错误模板或空响应当作有效样本。
对于这个独立测试文件,可以在源站配置如下响应头作为实验起点:
Cache-Control: public, max-age=60, s-maxage=300
这里的 60 秒和 300 秒是测试配置示例,不是性能建议或厂商默认值。标准语义下,max-age 控制新鲜度,s-maxage 对共享缓存生效并覆盖其 max-age。实际 CDN 还可能存在控制台 TTL、缓存资格规则、边缘脚本或专用响应头,应同时记录最终生效规则。
MDN 的 Cache-Control 说明 明确区分了 no-cache 与 no-store:前者允许存储,但复用前要求验证;后者表示不应存储。不要通过不断加入请求头 Cache-Control: no-cache 来制造所谓“普通 MISS”,那测到的可能是强制验证或账户规则下的特殊处理。
配置只作用于实验路径,不要覆盖登录页、购物车、用户接口等个性化内容。实验结束后,恢复原规则或移除实验专用规则,并确认生产路径没有受到匹配范围扩大的影响。
固定会影响缓存键的请求条件
URL 相同不一定访问同一份缓存。查询字符串、主机名、请求方法、压缩协商、语言以及账户自定义规则,都可能影响对象选择。Vary 还会声明响应依赖哪些请求头,相关机制可参考 MDN HTTP 缓存指南。
开始采样前,按以下步骤建立实验记录:
记录完整 URL、方法、请求头、预期状态码和正文特征,固定为普通 GET,不使用 Range 或条件请求。
固定地区、运营商、出口类型和 IP 协议族;家庭宽带、移动网络和云主机分别记录。
固定压缩请求条件。基础实验可用
Accept-Encoding: identity,代表性测试再补充浏览器实际压缩变体。记录缓存键、TTL、查询参数规则、Cookie 与 Authorization 处理方式,以及是否启用上层缓存。
选择无 Cookie、无凭据的实验资源;需要测试登录业务时,另建受控实验,不通过放宽共享缓存来追求命中。
浏览器“禁用缓存”还可能改变请求头,Service Worker 也可能改变请求路径。因此,先用 curl 建立网络层基线,再用浏览器复查实际访问,不要直接把浏览器刷新结果当作同条件缓存实验。
用 curl 同时采集计时与响应证据
一条请求先验证字段和对象是否正确
以下命令适用于具备 curl 的类 Unix Shell。域名和路径是示例,执行前替换为自己有权测试的对象。它固定 IPv4、HTTP/1.1 和非压缩请求,禁用环境显式代理,不跟随重定向,也不自动重试。
curl -q -4 --http1.1 --noproxy '*' \
--connect-timeout 5 --max-time 20 \
-H 'Accept-Encoding: identity' \
-sS -D sample.headers -o sample.body \
-w 'ip=%{remote_ip} code=%{http_code} connects=%{num_connects} dns=%{time_namelookup} connect=%{time_connect} tls=%{time_appconnect} ready=%{time_pretransfer} ttfb=%{time_starttransfer} total=%{time_total} bytes=%{size_download}\n' \
'https://www.example.com/cdn-test/ttfb-v1.txt'
-q 放在首个选项位置,用于避免默认 curl 配置文件改变实验条件。--noproxy '*' 排除 curl 的显式代理设置,但不能证明网络路径不存在透明中间设备。如果当前网络必须使用代理,应移除此选项并把代理作为实验条件记录,不能与直连结果混合。
先检查 sample.body 的内容,再查看 sample.headers 中的状态行、缓存状态字段、Age、Cache-Control、Vary、ETag、Last-Modified 和可用于日志关联的请求标识。响应头文件可能包含多个响应块,例如信息性响应;不要不加区分地提取文件中的第一个状态行。
如果返回 301 或 302,先确定最终资源地址,再让两组都直接访问相同最终 URL。直接加 -L 会把跳转过程引入累计计时,最终响应头却只描述最后一跳,容易错配缓存状态与耗时。确实要测重定向体验时,应单列实验并额外记录 time_redirect。
不要将上述 GET 改成 curl -I。HEAD 可以用于快速检查,但其缓存路径、回源处理或缓存填充行为可能与 GET 不同。正文下载到文件不影响 curl 首字节计时,反而便于确认业务响应有效。
批量采样时保留每次请求的原始记录
下面的脚本做低频串行采样,每次启动独立 curl 进程,因此不跨样本复用连接。它不会主动制造 MISS;样本状态仍需根据各自的响应头和日志确认。
mkdir -p cdn-ttfb-samples
url='https://www.example.com/cdn-test/ttfb-v1.txt'
for i in $(seq 1 30); do
ts=$(date -u '+%Y-%m-%dT%H:%M:%SZ')
curl -q -4 --http1.1 --noproxy '*' \
--connect-timeout 5 --max-time 20 \
-H 'Accept-Encoding: identity' \
-sS -D "cdn-ttfb-samples/$i.headers" -o /dev/null \
-w "$i,$ts,%{remote_ip},%{http_code},%{num_connects},%{time_namelookup},%{time_connect},%{time_appconnect},%{time_pretransfer},%{time_starttransfer},%{time_total},%{size_download}\n" \
"$url" >> cdn-ttfb-samples/timing.csv \
2> "cdn-ttfb-samples/$i.stderr"
rc=$?
printf '%s,%s\n' "$i" "$rc" >> cdn-ttfb-samples/exit.csv
sleep 1
done
CSV 字段顺序依次为样本编号、开始时间、远端 IP、HTTP 状态码、新建连接数,以及各累计时间和下载字节数。退出码单独保存,便于把网络失败与 HTTP 错误区分开。批量丢弃正文之前,应已验证对象;采样中若状态码或字节数异常,需另存该类响应正文复查。
30 次只是一次小规模试验的采样示例,不足以自动支持稳定的尾延迟结论。这个脚本也不是压力测试:并发会引入请求合并、排队和回源连接池竞争,应在基础延迟实验完成后另行设计。
如何可靠构造 HIT 与 MISS 两组
HIT 组:预热后仍要逐次确认
对同一 URL、同一变体发起预热请求,等待响应完整结束,再继续请求。只有符合当前产品字段语义的新鲜命中样本才能进入 HIT 组。预热动作本身不算命中样本,也不能保证其他节点已经拥有对象。
如果后续请求仍反复未命中,先检查实际响应是否可缓存、TTL 是否过短、请求是否携带干扰头、缓存键是否变化,以及请求是否被调度到不同缓存实例。远端 IP 可以提示接入变化,但 Anycast、负载均衡和集群分片意味着同一 IP 也未必对应同一个缓存实例。
必要时,可在获准且地址适用的前提下,用 --resolve 固定入口做诊断;但这种测试绕过了正常 DNS 选择,结论只适用于该入口和当前出口,不能替代正常调度下的用户体验测试。
MISS 组:优先精确清理或独立版本对象
对未命中组,可以选择两种受控方法,选择依据是账户能力和生产影响:
对独立实验 URL 执行精确缓存清理,确认任务状态及传播条件,再采集首次请求。重复时保留清理时间和请求标识,不清理整个域名。
提前准备若干内容、大小、响应头和源站路由一致的版本文件,每个文件首次请求作为候选 MISS,再对相同文件连续请求获取 HIT。
精确清理能保持 URL 完全一致,但不同产品的清理可能是删除对象,也可能是标记过期,还可能只覆盖部分缓存层。因此,必须观察结果,不能把“清理成功”自动等同于“源站冷请求”。
版本文件减少反复清理的操作影响,但仍要承认缓存键不同。它适合做内容一致的配对实验,不适合声称所有变量都没有变化。若源站按文件名触发不同计算、存储分区或鉴权,这种方法也会引入额外差异。
不建议在生产 URL 后不断添加随机参数。若 CDN 忽略该参数,根本没有制造冷对象;若参数参与缓存键,则可能制造大量碎片,并改变源站应用或签名逻辑。只有明确知道参数语义和缓存键规则时,才适合在隔离环境中采用。
到期验证不要冒充真正的冷缓存
等待 TTL 到期后发起请求,得到的可能是重新验证,而不是完整对象回源。若存在后台更新机制,客户端可能很快拿到陈旧对象,回源则发生在响应之后。
因此,可以把“到期后的第一个请求”作为独立实验,用于观察过期策略,却不能默认并入冷 MISS 组。确认完整回源需要结合条件请求、上游状态、传输字节和源站日志,而不只是看客户端状态码。
为了减轻时间漂移,应按“冷请求—紧随其后的命中请求”形成多组配对,并跨时间窗口重复。不要上午测完全部 MISS,晚上再测全部 HIT;网络负载与源站负载变化可能比缓存收益更大。
分析结果:先看分布,再定位哪一段变慢
统计表必须保留失败和未知状态
每条记录至少关联缓存状态、状态证据、出口条件、协议族、远端 IP、HTTP 状态、退出码、完整 TTFB 和请求准备后等待。无法可靠识别的状态进入“未知”组,不按速度补猜标签。
成功样本可以按 HIT、MISS、重新验证、绕过分别报告样本数、中位数、P95 和范围。样本很少时,P95 对个别值极其敏感,应展示原始分布并说明局限。分位数算法也应固定,尤其在小样本比较中。
超时没有一个可作为正常 TTFB 的完整观测值,不能按零参与计算,也不能直接把 20 秒超时阈值当成实际首字节时间。应分别报告总请求数、有效成功数、连接失败数、超时数、HTTP 错误数和业务校验失败数;成功请求分位数只描述成功子集。收到首字节后才下载失败的请求,也应单列,而不是悄悄算作完整成功。
地区、运营商、出口类型和 IPv4/IPv6 应分组比较。多个地区的 P95 不能简单平均成整体 P95;整体分位数需要汇集相应原始样本,并说明采样权重。需要统一报告定义时,可参考 CdnChart 的测量方法,但平台观测与自己的受控实验仍是不同证据来源。
根据差异位置决定下一步
观察结果 | 优先解释 | 最小验证与后续动作 |
|---|---|---|
HIT、MISS 的完整 TTFB 都高,连接准备占比大 | 接入、握手或本地网络成本较大 | 固定协议族和出口复测,再单独测试复用连接 |
MISS 的准备后等待明显高于 HIT | 上游路径、对象获取或源站处理增加等待 | 查上层缓存与源站日志,确认实际到达层级 |
HIT 也有较高的准备后等待 | 边缘处理、客户端往返或命中层级并非预期 | 核对字段语义,比较不同出口和时段 |
MISS 与 HIT 接近,且都较快 | 上层命中、源站接近或对象生成成本低 | 验证上层状态,不急于延长所有对象 TTL |
MISS 偶发极慢,HIT 相对稳定 | 上游连接、源站排队或缓存填充竞争 | 关联慢样本日志,再设计低风险并发实验 |
首字节接近,但总耗时差距大 | 主要差异在响应传输阶段 | 检查对象大小、压缩、吞吐和后续传输错误 |
“HIT 很快、MISS 很慢”也不意味着应该让所有内容长期缓存。版本化静态文件适合评估更长的新鲜期和受控预热;价格、库存和权限数据则必须先满足一致性与隐私边界。低命中率若来自过度细分的缓存键,优先减少无业务意义的变体,通常比单纯增加 TTL 更值得验证。
需要源站对照时,保持 Host 与 TLS SNI 不变
如果 MISS 明显较慢,并且有权限直接验证源站,可以在相同客户端、相同 URL 和请求头下,用 --resolve 把连接指向受控源站地址:
curl -q -4 --http1.1 --noproxy '*' \
--resolve 'www.example.com:443:203.0.113.10' \
--connect-timeout 5 --max-time 20 \
-H 'Accept-Encoding: identity' \
-sS -D origin.headers -o origin.body \
-w 'code=%{http_code} ready=%{time_pretransfer} ttfb=%{time_starttransfer} total=%{time_total}\n' \
'https://www.example.com/cdn-test/ttfb-v1.txt'
这里的 IP 是文档示例地址。执行前需确认源站可从测试出口合法访问,且能为该域名提供正确证书与虚拟主机。不要使用直接访问 HTTPS IP、仅补 Host 头的方式替代,也不要用跳过证书验证掩盖配置错误。
这个实验保留 URL、Host 与 TLS SNI,但客户端直达源站和 CDN 回源不是同一网络路径。它能辅助判断源站服务是否普遍缓慢,不能从 CDN MISS TTFB 中直接减去直连 TTFB,得到所谓“CDN 额外开销”。源站如果只允许 CDN 访问,应改用授权诊断环境或服务端日志,不要为测试大范围放开防火墙。
修改之后,用相同证据链验收
如果决定调整 TTL、缓存键或预热流程,应先限定到实验路径或小范围资源,保存原配置,并事先明确回滚条件。验收不仅看 HIT 的 TTFB,还要确认内容是否正确、更新能否按期可见、错误响应是否被意外缓存,以及源站请求量是否出现异常变化。
复查时重新执行相同出口、相同协议、相同请求条件下的配对实验,保留冷请求与命中请求的状态证据。随后补充真实用户所在网络与浏览器请求条件;CdnChart 的网站测速可辅助观察域名连接表现,但受控 HIT/MISS 结论仍要依赖对应请求的缓存证据。
最终报告应能回答:哪个资源、哪个缓存层、什么连接口径下,命中与未命中的首字节分布存在什么差异,失败如何处理,以及该差异是否足以支持配置调整。把这些条件说清楚,比得到一个脱离环境的“缓存快了多少毫秒”更有决策价值。
- CDN首字节时间
- CDN缓存命中测试
- 缓存未命中TTFB
- curl计时
- CDN回源延迟
- HIT和MISS
- 冷缓存测试