【原创】把瑞星微rknn推理框架封装到Delphi中, rknn4Delphi 已开源

=====================================================================

2015-2-18

rknn4Delphi发布后很多朋友都在问关于瑞星微设备的问题，我的设备是定制的，使用的是rk3588s，NPU算力有6Tops，CPU是8核的，具体可参考：https://www.rock-chips.com/a/cn/product/RK35xilie/2022/0926/1656.html

这个是我定制的rk3588s，4G RAM 32 GEMMC

定制比较麻烦，如果只想体验一下可以直接买香橙派的Pi5B，非常好用，而且外设齐全，价格也便宜，淘宝搜索 香橙派 Pi5B

还有很多朋友下载了我的rknn4Delphi，但不会用，要跑起来rknn4Delphi并且可以使用自己的模型，要达到这个程度是需要有基本的深度网络学习知识，需要了解 卷积神经网络基础、至少熟悉一种模型训练框架，比如Pytorch或Tensorflow等，如果需要自己做产品的，还需要了解安卓系统的编译，因为如果涉及到做产品，就需要自己编译安卓，需要修改和部署安卓源码SDK等，这些都不是太难，我本人也是自学的，需要的只有 兴趣 + 毅力

=======================================================================

2015-2-16

近半年一直用瑞星微的芯片做项目，一开始并没有使用它的rknn框架，直到其它难点全部攻克后正好是2025年春节放假了，又正好这次没有旅游计划，所以在才有时间研究一下，发现rknn真是个好东西，就想把它封装到Delphi中，于是就有了我这个 rknn4Delphi

目前只写了图像识别和图像分类 2个模块，并且已开源到 github：

GitHub - 13501714030/rknn4Delphi: rknn4Delphi wraps the RKNN C++ API interfaces, enabling Delphi developers to directly utilize the RKNN inference framework within Delphi.rknn4Delphi wraps the RKNN C++ API interfaces, enabling Delphi developers to directly utilize the RKNN inference framework within Delphi. - 13501714030/rknn4Delphihttps://github.com/13501714030/rknn4Delphirknn只支持2个平台，安卓和Linux，2个都是ARM构架的，很可惜，Delphi目前不支持ARM构架的Linux，所以目前的 rknn4Delphi 只支持安卓端

RKNN（Rockchip Neural Network）是瑞芯微（Rockchip）推出的高性能深度学习推理框架，专为嵌入式设备和边缘计算场景优化。它支持将主流深度学习框架（如 TensorFlow、PyTorch、Caffe）训练出的模型转换为可在 Rockchip 芯片（含 NPU 的 RK3588、RK3566 等系列）高效运行的专用格式。通过硬件级加速与模型量化技术，RKNN 显著提升了 AI 模型在嵌入式端的推理速度与能效比，广泛应用于智能摄像头、机器人、工业检测等 AIoT 领域。

具体详细信息可查看瑞星微官网：https://www.rock-chips.com/

rknn4Delphi 封装了 rknn 的 c++ API 接口，使得Delphi的开发者可以在Delphi中直接调用rknn推理框架，由于Delphi不支持ARM Linux，所以rknn4Delphi目前只能在安卓下使用，rknn4Delphi绕开了JNI，直接封装了原生接口，所以具有较高的性能，部署也只需按照Delphi部署安卓程序的方式即可

YoloV8/V11 的对象识别

MobileNet的图像分类

在使用rknn4Delphi之前需要具备深度学习的一些基本知识，并且需要把模型转换到rknn格式，如何转换模型可以参考官方仓库：GitHub - airockchip/rknn_model_zoo ，rknn4Delphi 测试了 rk3588、rk3576 和 rk3566 的芯片部署并能正常运行，使用的是 int8 量化，推理速度可参考下表：

如何使用rknn4Delphi

把这些文件

.\source\rknn_api.pas
.\source\rknnBase.pas
.\source\rknnClassification.pas
.\source\rknnDetection.pas

添加到你的工程里，参考示例：\example\_rknnTestAndroid

最后，欢迎Delphi的老人们一起来交流，加入 Delphi玩转AI 群一起来变年轻