1. 项目概述从零到一在RK3576上跑通YOLOv5最近有不少朋友在问手头拿到了瑞芯微的RK3576开发板想在上面部署一个目标检测模型比如YOLOv5但不知道从何下手。训练好的模型怎么转换转换后性能如何实际部署时又有哪些坑这确实是一个典型的端侧AI应用开发流程从模型训练、格式转换到板端部署每一步都有讲究。今天我就结合自己最近在RK3576上折腾YOLOv5的经历把整个流程掰开揉碎了讲一遍目标是让你看完就能自己动手把YOLOv5从你的电脑训练环境顺畅地部署到RK3576开发板上跑起来。RK3576是一颗定位中高端的AIoT芯片内置了独立的NPU神经网络处理单元专门为加速AI推理而生。而YOLOv5作为目前工业界和爱好者圈子里最火的目标检测模型之一以其速度快、精度高、生态好著称。把这两者结合起来意味着你可以在一个功耗和成本都相对可控的嵌入式设备上实现实时或准实时的目标检测能力应用场景非常广泛比如智能门禁、工业质检、机器人视觉导航等等。整个流程大致可以分为三个核心阶段在PC端使用PyTorch训练并导出YOLOv5模型使用瑞芯微提供的RKNN-Toolkit2工具链将模型转换成RK3576 NPU能识别的RKNN格式最后在RK3576开发板上编写或使用示例程序加载RKNN模型进行推理。听起来步骤清晰但魔鬼藏在细节里每个环节都有一些关键配置和容易踩坑的地方我会在后面的章节里详细说明。2. 核心思路与工具链选型在RK3576上部署YOLOv5本质上是一个“训练框架”到“推理引擎”的桥梁搭建工作。我们的目标不是重新发明轮子而是高效、可靠地利用现有工具链完成转换和部署。这里面的核心思路是标准化接口和针对性优化。为什么选择RKNN-Toolkit2这是瑞芯微官方提供的、几乎是唯一的模型转换与部署SDK。它扮演了“翻译官”和“优化器”的双重角色。一方面它能将PyTorch、TensorFlow、ONNX等主流框架训练出的模型“翻译”成RK NPU硬件指令集能够直接执行的RKNN格式文件。另一方面它在转换过程中会进行大量的图优化、算子融合、量化等操作这些优化对于在算力有限的嵌入式设备上提升推理速度、降低内存占用至关重要。没有这个工具链我们训练的模型对RK3576的NPU来说就是一串无法理解的数据。模型格式的抉择PyTorch - ONNX - RKNN直接从PyTorch的.pt文件转换到RKNN不是不行但经过ONNX中间格式是更稳健、更通用的路径。ONNXOpen Neural Network Exchange是一个开放的模型表示格式它就像AI模型界的“通用语”。先由PyTorch导出为ONNX再用RKNN-Toolkit2加载ONNX进行转换这样做有几个好处首先ONNX导出过程本身可以检查模型结构是否规范排除一些动态算子其次RKNN-Toolkit2对ONNX的支持通常更成熟遇到问题的排查线索更多最后ONNX模型可以方便地用Netron等可视化工具查看便于我们理解模型结构和确认转换是否正确。因此我们的转换流水线确定为YOLOv5 PyTorch模型 - ONNX模型 - RKNN模型。开发环境搭建要点整个工作需要两个主要环境模型训练与转换环境PC/服务器需要安装PyTorch用于训练和导出、RKNN-Toolkit2用于转换。强烈建议在Ubuntu 20.04/22.04系统下进行这是RKNN-Toolkit2兼容性最好的环境。安装RKNN-Toolkit2时务必注意Python版本如3.8/3.10和RKNN-Toolkit2版本如2.x.x的匹配并严格按照官方文档安装依赖如numpy、onnx、onnx-simplifier等。一个常见的坑是系统里存在多个Python版本导致pip安装的包路径混乱建议使用conda或venv创建独立的虚拟环境。板端推理环境RK3576开发板需要RKNN-Toolkit2的Runtime库librknnrt.so以及C或Python的API。这些通常包含在开发板提供的系统镜像或SDK中。你需要通过串口或ADB连接到开发板将转换好的RKNN模型文件、测试图片/视频以及推理程序C或Python编写传输到板子上。注意RKNN-Toolkit2有PC版本和板端Runtime版本之分。PC版用于模型转换和仿真推理在PC上模拟NPU行为板端Runtime是实际在开发板上加载模型进行推理的库。两者版本尽量保持一致以避免兼容性问题。3. YOLOv5模型训练与ONNX导出详解虽然你可以直接使用YOLOv5官方预训练的模型如yolov5s.pt但为了获得最好的部署效果特别是针对你的特定应用场景比如只检测某几类物体自定义训练往往是必要的。这里我假设你已有基本的深度学习训练知识重点讲和RKNN部署强相关的部分。3.1 针对嵌入式部署的模型训练调优训练一个适合部署到RK3576的YOLOv5模型目标不仅仅是精度高还要兼顾模型大小和速度。模型尺寸选择YOLOv5提供了从n纳米、s小、m中、l大到x超大的系列模型。对于RK3576yolov5s或yolov5n通常是更合适的选择。yolov5s在精度和速度上取得了很好的平衡其模型大小约14MBFP32经过量化后可以压缩到4MB以下非常适合嵌入式设备。如果你的场景对实时性要求极高且目标简单yolov5n是更轻量的选择。数据集与标注确保你的数据集标注格式符合YOLOv5的要求每张图片对应一个.txt文件内容为class_id x_center y_center width height坐标是归一化后的。数据集应尽可能覆盖实际部署场景的光照、角度、遮挡等情况。一个常见的误区是只收集“干净”的理想场景图片导致模型在复杂真实环境中表现不佳。关键训练参数--img-size: 训练时输入的图像尺寸。YOLOv5默认是640。这个参数至关重要因为它决定了模型输入张量的固定形状。RKNN模型在转换时需要指定固定的输入尺寸。虽然有些框架支持动态尺寸但为了NPU推理的最高效强烈建议训练和部署使用相同的固定尺寸如640x640。如果你需要其他尺寸必须在训练时就确定好。--batch-size: 根据你的GPU显存调整。--epochs: 迭代轮数根据数据集大小调整通常100-300轮。--data: 指定你的数据集配置文件如my_dataset.yaml。--weights: 可以从预训练模型如yolov5s.pt开始微调加速收敛。一个典型的训练命令如下python train.py --img 640 --batch 16 --epochs 150 --data ./data/my_dataset.yaml --weights ./weights/yolov5s.pt训练完成后会在runs/train/exp/weights目录下得到最好的模型best.pt和最后一轮的模型last.pt。3.2 从PyTorch到ONNX导出与简化得到best.pt后下一步是将其导出为ONNX。YOLOv5官方仓库提供了export.py脚本非常方便。基础导出命令python export.py --weights ./runs/train/exp/weights/best.pt --include onnx --img-size 640 640--weights: 指定训练好的PyTorch模型路径。--include onnx: 指定导出格式为ONNX。--img-size 640 640:必须与训练时保持一致这里指定了输入图片的高度和宽度。--dynamic: 这个参数要慎用。它允许导出动态批处理batch或尺寸shape的ONNX模型。对于RKNN部署我强烈建议使用静态形状即不加--dynamic参数。动态形状会增加转换的复杂性和不确定性而嵌入式部署场景的输入尺寸通常是固定的。运行后你会得到一个best.onnx文件。但是直接导出的ONNX模型可能包含一些冗余的算子如Identity或复杂的结构不利于后续转换。因此我们需要使用onnx-simplifier工具对模型进行简化。安装与简化ONNX模型pip install onnx-simplifier python -m onnxsim best.onnx best_sim.onnx简化后的best_sim.onnx模型结构更清晰体积可能略有减小最重要的是能避免一些潜在的转换错误。务必使用Netron一个在线或离线的模型可视化工具打开简化前后的ONNX模型对比检查一下。重点关注输入输出节点的名称和形状。输入节点应该是一个形状为[1, 3, 640, 640]的张量分别代表批处理大小、通道数、高、宽。输出节点可能是一个或多个对于YOLOv5通常是三个不同尺度的输出层用于检测不同大小的目标。实操心得在导出ONNX时你可能会遇到一些算子不支持的错误。YOLOv5的官方版本在不断更新其包含的算子集是RKNN-Toolkit2能完全支持的保证。如果你使用了自定义模型结构或添加了特殊算子就需要确认RKNN-Toolkit2的OP支持列表。一个稳妥的做法是尽量使用YOLOv5原版结构避免引入非常新的、实验性的PyTorch层。4. 使用RKNN-Toolkit2进行模型转换与量化这是整个流程中最关键、也最容易出问题的一步。我们将把简化后的ONNX模型通过RKNN-Toolkit2转换成RK3576 NPU专用的RKNN格式并在此过程中进行关键的优化——量化。4.1 模型转换基础流程转换工作主要通过编写一个Python脚本来完成。下面是一个最基础的转换脚本框架我加了详细注释from rknn.api import RKNN # 1. 创建RKNN对象 rknn RKNN(verboseTrue) # verboseTrue可以打印更多详细信息调试时很有用 # 2. 配置模型预处理参数 # 这些参数必须和模型训练/导出时的设定对齐否则会导致精度严重下降或结果错误。 print(-- Config model) ret rknn.config( mean_values[[0, 0, 0]], # 均值。如果你的训练数据做了归一化(如除以255)这里通常是[0,0,0] std_values[[255, 255, 255]], # 标准差。如果归一化到[0,1]则std应为[255,255,255] target_platformrk3576, # 指定目标平台工具链会进行针对该芯片的优化 quant_img_RGB2BGRTrue # 是否在量化时交换RGB通道。取决于你训练时图片的通道顺序。 ) if ret ! 0: print(Config model failed!) exit(ret) # 3. 加载ONNX模型 print(-- Loading model) ret rknn.load_onnx( model./best_sim.onnx, # 你的简化ONNX模型路径 inputs[images], # 输入节点名用Netron查看确认 input_size_list[[3, 640, 640]], # 输入张量形状 [C, H, W] outputs[output0, output1, output2] # 输出节点名用Netron查看确认 ) if ret ! 0: print(Load model failed!) exit(ret) # 4. 构建模型 # 这一步会进行图优化、算子转换等生成中间表示。 print(-- Building model) ret rknn.build(do_quantizationFalse) # 先不量化进行FP32转换测试 if ret ! 0: print(Build model failed!) exit(ret) # 5. 导出RKNN模型 print(-- Export RKNN model) ret rknn.export_rknn(./yolov5s.rknn) if ret ! 0: print(Export RKNN model failed!) exit(ret) # 6. 释放RKNN对象 rknn.release()运行这个脚本如果一切顺利你会得到yolov5s.rknn文件。但请注意这个模型是浮点FP32格式的它可以在RK3576的NPU上运行但速度和内存占用不是最优的。为了发挥NPU的全部性能我们需要进行量化。4.2 模型量化精度与速度的权衡量化是将模型权重和激活值从高精度如FP32转换为低精度如INT8的过程。这能显著减少模型体积、降低内存带宽需求、并提升推理速度但可能会引入精度损失。RKNN-Toolkit2支持后训练量化即不需要重新训练模型直接使用一个代表性的数据集量化数据集来校准量化参数。准备量化数据集你需要准备一个dataset.txt文件里面每一行是一张图片的路径。这些图片应该来自你的训练集或验证集最好能覆盖各种场景具有代表性。通常准备100-200张图片就足够了。./quant_images/1.jpg ./quant_images/2.jpg ...修改转换脚本以启用量化 将上面脚本中的rknn.build(do_quantizationFalse)改为rknn.build(do_quantizationTrue, dataset./dataset.txt)。同时在config步骤你可能需要根据你的图片预处理方式调整mean_values和std_values。例如如果你的训练代码是将图片从[0,255]范围归一化到[0,1]那么mean_values应为[0,0,0]std_values应为[255,255,255]。如果归一化到[-1,1]则mean_values为[127.5,127.5,127.5]std_values为[127.5,127.5,127.5]。这里的配置必须和模型训练时的预处理完全一致量化精度调优 如果量化后模型精度下降太多可以尝试以下方法增加量化图片数量和质量确保dataset.txt中的图片足够有代表性。调整量化算法RKNN-Toolkit2可能提供不同的量化算法选项如quant_algorithm可以尝试切换。进行量化感知训练QAT这是更高级但更有效的方法。在模型训练阶段就模拟量化的效果让模型提前适应低精度计算。这需要在PyTorch训练代码中引入QAT逻辑训练完成后导出ONNX再进行RKNN转换。对于精度要求极高的场景QAT几乎是必须的。4.3 PC端仿真推理验证在把模型放到开发板之前强烈建议在PC上进行仿真推理验证。RKNN-Toolkit2提供了rknn.init_runtime接口可以在PC的CPU上模拟NPU的行为虽然速度很慢用于验证模型转换和量化的正确性。在你的转换脚本最后在导出模型之前可以添加如下代码# 初始化运行时环境PC仿真模式 print(-- Init runtime environment) ret rknn.init_runtime() if ret ! 0: print(Init runtime environment failed!) exit(ret) # 准备一张测试图片并做相同的预处理缩放、归一化等 import cv2 import numpy as np img cv2.imread(./test.jpg) img cv2.cvtColor(img, cv2.COLOR_BGR2RGB) # 注意通道顺序 img cv2.resize(img, (640, 640)) img img.astype(np.float32) img img / 255.0 # 假设训练时是除以255归一化 img np.expand_dims(img, axis0) # 增加batch维度 - [1,640,640,3] img np.transpose(img, (0, 3, 1, 2)) # 转为 [1,3,640,640] (NCHW) # 进行推理 print(-- Running model) outputs rknn.inference(inputs[img]) # outputs是一个列表对应模型的多个输出 print(Simulation inference outputs:, outputs) # 这里可以添加后处理代码将输出转换为检测框和类别并与预期结果对比通过对比仿真推理结果与PyTorch原模型推理结果可以基本确认模型转换是否正确。如果结果差异巨大就需要回到前面的步骤检查预处理参数、模型结构等。5. RK3576板端部署与推理程序编写模型转换验证无误后就可以将其部署到RK3576开发板上了。你需要将生成的.rknn模型文件、以及用于推理的应用程序C或Python传输到开发板。5.1 环境准备与文件传输首先确保你的RK3576开发板已经烧录了支持NPU的固件并且可以通过ADB或串口登录。通常官方SDK会提供完整的系统镜像。连接开发板通过USB线连接开发板和电脑使用adb devices命令检查是否连接成功。或者使用串口工具如MobaXterm, Minicom连接。推送文件使用ADB命令将必要的文件推送到开发板。adb push yolov5s.rknn /userdata/ adb push test.jpg /userdata/ adb push rknn_yolov5_demo /userdata/ # 编译好的C可执行文件 # 或者推送Python脚本及其依赖 adb push yolov5_inference.py /userdata/检查Runtime库登录开发板检查/usr/lib/或/usr/lib/aarch64-linux-gnu/目录下是否存在librknnrt.so。这是运行RKNN模型所必须的动态库。5.2 C语言推理程序核心逻辑剖析虽然RKNN-Toolkit2也提供Python API但在资源受限的嵌入式设备上C语言程序通常能获得更好的性能和可控性。下面拆解一个典型的C语言推理程序的关键部分。初始化RKNN上下文并加载模型#include stdio.h #include stdlib.h #include string.h #include “rknn_api.h” // RKNN Runtime的头文件 int main(int argc, char** argv) { rknn_context ctx 0; int ret; // 1. 加载RKNN模型文件 FILE* fp fopen(“/userdata/yolov5s.rknn”, “rb”); fseek(fp, 0, SEEK_END); int model_size ftell(fp); void* model_data malloc(model_size); fseek(fp, 0, SEEK_SET); fread(model_data, 1, model_size, fp); fclose(fp); // 2. 初始化RKNN上下文 ret rknn_init(ctx, model_data, model_size, 0, NULL); if (ret 0) { printf(“rknn_init failed! ret%d\n”, ret); goto error; } // 3. 查询模型输入输出信息 rknn_input_output_num io_num; ret rknn_query(ctx, RKNN_QUERY_IN_OUT_NUM, io_num, sizeof(io_num)); // io_num.n_input, io_num.n_output 分别存储输入和输出的数量 // 进一步查询每个输入/输出的详细信息如格式、尺寸 rknn_tensor_attr input_attrs[io_num.n_input]; rknn_tensor_attr output_attrs[io_num.n_output]; // ... 查询代码省略 // 4. 准备输入数据图像预处理 // 读取图片缩放到640x640归一化转换为NCHW格式... // 将处理好的数据填充到 input_attrs 指定的内存中 rknn_input inputs[1]; inputs[0].index 0; inputs[0].type RKNN_TENSOR_UINT8; // 如果是量化模型输入通常是UINT8 inputs[0].fmt RKNN_TENSOR_NHWC; // 或 RKNN_TENSOR_NCHW需与模型一致 inputs[0].buf preprocessed_image_data; inputs[0].size input_width * input_height * 3; // 5. 设置输入 ret rknn_inputs_set(ctx, io_num.n_input, inputs); // 6. 运行推理 ret rknn_run(ctx, nullptr); // 7. 获取输出 rknn_output outputs[io_num.n_output]; for (int i 0; i io_num.n_output; i) { outputs[i].want_float 1; // 希望以浮点数形式获取输出便于后处理 outputs[i].is_prealloc 0; // 由Runtime分配内存 } ret rknn_outputs_get(ctx, io_num.n_output, outputs, NULL); // 8. 后处理 // YOLOv5的后处理解析outputs中的三个输出层应用置信度阈值和NMS非极大值抑制得到最终的检测框、类别和分数。 // 这部分逻辑较复杂需要根据模型的具体输出结构编写。 process_yolov5_output((float*)outputs[0].buf, (float*)outputs[1].buf, (float*)outputs[2].buf, ...); // 9. 释放输出和上下文 rknn_outputs_release(ctx, io_num.n_output, outputs); error: if (ctx 0) rknn_destroy(ctx); if (model_data) free(model_data); return 0; }编译C程序你需要在PC上使用交叉编译工具链如aarch64-linux-gnu-gcc来编译这个C程序生成能在RK3576ARM64架构上运行的可执行文件。编译时需要链接RKNN Runtime库-lrknnrt并包含头文件路径。5.3 Python推理脚本示例如果你更倾向于快速原型验证使用Python API会更方便。开发板系统通常已经安装了Python3和RKNN的Python包。一个简化的Python推理脚本如下from rknnlite.api import RKNNLite # 注意板端Runtime的Python模块可能是rknnlite import cv2 import numpy as np # 初始化 rknn_lite RKNNLite() # 加载RKNN模型 ret rknn_lite.load_rknn(‘/userdata/yolov5s.rknn’) if ret ! 0: print(‘Load RKNN model failed’) exit(ret) # 初始化运行时环境 ret rknn_lite.init_runtime() if ret ! 0: print(‘Init runtime environment failed’) exit(ret) # 图像预处理必须与转换、训练时一致 img cv2.imread(‘/userdata/test.jpg’) img_rgb cv2.cvtColor(img, cv2.COLOR_BGR2RGB) img_resized cv2.resize(img_rgb, (640, 640)) # 归一化等操作... input_data np.expand_dims(img_resized, axis0) # 添加batch维度 # 推理 outputs rknn_lite.inference(inputs[input_data]) # 后处理这里需要你根据模型输出结构实现 boxes, classes, scores post_process(outputs, img_shape(640,640)) # 在原图上画框 for box, cls, score in zip(boxes, classes, scores): if score 0.5: # 置信度阈值 x1, y1, x2, y2 box.astype(int) cv2.rectangle(img, (x1, y1), (x2, y2), (0,255,0), 2) cv2.putText(img, f{cls}:{score:.2f}, (x1, y1-10), cv2.FONT_HERSHEY_SIMPLEX, 0.5, (0,255,0), 2) cv2.imwrite(‘/userdata/result.jpg’, img) rknn_lite.release()Python API更简洁但性能通常低于精心优化的C程序。对于实时视频流处理C程序是更佳选择。6. 性能优化与调试技巧实录将模型跑起来只是第一步让它跑得又快又稳才是目标。以下是一些关键的优化和调试经验。6.1 性能瓶颈分析与优化输入预处理开销在C程序中图像缩放、颜色空间转换、归一化等操作如果使用OpenCV的通用函数可能会成为瓶颈。可以考虑使用硬件加速如RK3576的RGA模块进行图像缩放和格式转换。瑞芯微通常提供RGA的库如librga.so其速度远快于CPU上的OpenCV。将归一化等计算与RGA操作或后续的内存拷贝合并减少数据遍历次数。推理本身确保模型是量化INT8版本。FP32模型在NPU上的速度会慢很多。使用rknn.query查询模型的详细性能信息。后处理开销YOLOv5的后处理解码边界框、置信度过滤、NMS是在CPU上进行的如果检测目标很多也可能耗时。优化方法使用高效的NMS实现避免多重循环。尝试将后处理中一些可并行的操作向量化。如果帧率要求极高且场景中目标数量稳定较少可以适当调整置信度阈值和NMS阈值提前过滤掉大量无效框。多线程/流水线对于视频流处理可以采用生产者-消费者模式。一个线程专门负责读取视频帧和预处理另一个线程负责NPU推理第三个线程负责后处理和显示/传输结果。这样可以充分利用CPU和NPU的并行能力。6.2 常见问题与排查指南在部署过程中你几乎一定会遇到一些问题。下面是一个常见问题速查表问题现象可能原因排查步骤与解决方案模型转换失败(rknn.build error)1. ONNX模型包含不支持的算子。2. 模型结构过于复杂或动态。3. RKNN-Toolkit2版本与模型不兼容。1. 用Netron查看ONNX模型确认所有算子。尝试使用更早或更稳定的YOLOv5版本导出。2. 确保导出ONNX时使用--dynamic参数或尝试固定为其他静态尺寸。3. 升级或降级RKNN-Toolkit2到与芯片SDK匹配的版本。板端推理结果全错或为NaN1.预处理不一致最常见。2. 量化失败导致精度崩溃。3. 输入数据格式NCHW/NHWC不对。1.仔细核对训练、ONNX导出、RKNN转换、板端推理四个环节的图片缩放尺寸、归一化方式均值/标准差、通道顺序RGB/BGR必须完全一致建议写一个统一的预处理函数。2. 尝试使用FP32模型推理如果结果正确说明量化有问题。检查量化数据集尝试QAT。3. 通过rknn_query查询模型期望的输入格式并在rknn_input中正确设置fmt字段。板端推理速度慢1. 使用了FP32模型。2. 输入分辨率过高。3. CPU频率被限制或散热不佳降频。4. 后处理耗时太长。1. 确认使用的是INT8量化模型。2. 尝试降低输入尺寸如从640到320但需重新训练模型。3. 检查系统负载和温度。使用cpufreq-info等命令查看CPU频率。4. 对后处理代码进行性能分析如使用clock_gettime并优化。内存不足(OOM)1. 模型太大。2. 同时运行了多个占用内存大的进程。3. 输入图片太大。1. 换用更小的模型如YOLOv5n。2. 关闭不必要的后台服务。3. 减小输入尺寸。RKNN模型加载时就会申请NPU内存大模型可能直接导致初始化失败。RKNN API调用返回错误码参数传递错误、内存未对齐、模型文件损坏等。查阅RKNN-Toolkit2或RKNN Lite的官方文档中的错误码说明。最常见的如RKNN_ERR_MODEL_INVALID模型无效、RKNN_ERR_INPUT_INVALID输入设置错误。实操心得预处理一致性是部署过程中最大的“坑”。我建议建立一个“黄金标准”测试流程在PC上用原始的PyTorch模型对一张标准测试图进行推理保存预处理后的输入张量和最终的检测结果。然后在RKNN的仿真推理和板端推理中确保输入给模型的数据张量值与“黄金标准”完全一致可以使用np.allclose()函数比较。如果输入一致但输出不一致问题就在模型转换或量化如果输入就不一致问题一定在预处理环节。6.3 进阶模型剪枝与蒸馏如果即使使用了YOLOv5n在RK3576上仍无法满足帧率要求可以考虑更激进的模型压缩方法剪枝移除模型中冗余的通道或层。有专门的剪枝工具如Torch-Pruning可以在训练后对模型进行剪枝然后微调恢复精度。知识蒸馏用一个大的、精度高的教师模型如YOLOv5l来指导一个小学生模型如YOLOv5n的训练让小学生模型在保持小体积的同时获得接近教师模型的性能。这些方法需要更深入的机器学习知识并且会延长开发周期但它们是在极端资源约束下提升性能的有效手段。整个基于RK3576部署YOLOv5的流程就像完成一次精密的接力赛。从PyTorch的训练场出发经过ONNX的转换区在RKNN-Toolkit2的优化站完成质的飞跃最后在RK3576的赛道上冲刺。每一步的稳定交接都至关重要尤其是预处理和数据格式这个“接力棒”必须牢牢握紧不能有任何偏差。当你第一次在开发板的屏幕上看到自己训练的模型准确地框出目标时那种成就感会让人觉得所有的调试和折腾都是值得的。这个流程不仅适用于YOLOv5和RK3576其核心思想——训练、转换、部署、优化——是端侧AI应用开发的通用范式掌握了它你就能在更多的嵌入式AI项目中游刃有余。