开篇先讲个真实故事。去年我帮一家安防公司做烟火检测模型升级，团队花了三周把YOLOv8n换成YOLOv8s，精度提升5%，结果上线当天就炸了——新模型推理时间从12ms飙到28ms，CPU直接打满，导致20%的请求超时。更惨的是，他们直接全量替换，想回滚时发现旧模型镜像被覆盖了，被迫停服半小时。这种“上线心惊胆战”的场面，你是不是也遇到过？今天我们就来解决这个问题——如何在Kubernetes中同时运行YOLOv8n、YOLOv8s、YOLOv8m三个版本，通过AB测试和灰度发布实现平滑切换，并用Prometheus监控召回率自动回滚。痛点拆解：那些“想当然”的错误实现很多人觉得AB测试就是建两个Service，各挂一个Deployment，然后随机路由。我见过最典型的反例代码长这样：# 反例：手动轮询实现流量分流importrandomimportrequestsdefab_test_inference(image)