草庐IT

RKNN模型部署（2）——环境配置

机器人涮火锅 2024-07-10 原文

文章目录

前言

   RKNN支持许多框架训练的模型，但由于本人目前主要使用pytorch框架来训练模型，因此该部署教程是以Pytorch模型部署过程为例进行说明，后面再继续补充ONNX模型部署过程。

1、前期准备

   首先根据下表，确定RKNN Toolkit 以及 Pytorch 的版本。


   由于PC端训练模型时使用的GPU是 Ti 3090，Cuda 版本为11.3，所以PC端python的版本最低为3.8,。
   模型在Windows（PC端）上训练，在Ubuntu（虚拟端）上转换，在板子上（端侧）部署。转换路径：pth -> pt -> rknn。这里有个最大的问题就是python和各依赖库的版本问题，经过多轮尝试后发现模型训练用py3.8，模型转换用py3.6是最佳组合，且其他依赖库的版本尽量保持一致。
   因此最终决定PC端和虚拟端上各库的版本如下所示：

PCUbuntu
python == 3.8python == 3.6
pytorch == 1.8.1pytorch == 1.8.1
torchvision == 0.9.1torchvision == 0.9.1
Cuda == 11.3rknn-toolkit == 1.7.1

2、PC端环境配置

2.1 创建虚拟环境

conda create -n rknn python=3.8

2.2 依赖库安装

此处若使用conda 安装pytorch，则会安装成CPU版本，具体原因应该是没有版本匹配的GPU版安装包。

pip install --user torch==1.8.1+cu111 torchvision==0.9.1+cu111 torchaudio==0.8.1 -f https://download.pytorch.org/whl/torch_stable.html

2.3 其他库安装

根据模型训练环境安装相应的库，注意版本问题。

3、虚拟端环境配置

3.1 安装Ubuntu系统

  • 搭建好Ubuntu系统的虚拟机
  • 将默认的镜像源改为清华源或阿里源
  • 安装必要的软件和库

3.2 下载并安装anaconda

在Ubuntu中打开终端，输入以下代码下载anaconda安装包。

$ wget https://mirrors.bfsu.edu.cn/anaconda/archive/Anaconda3-2022.05-Linux-x86_64.sh

下载完成后文件保存在主目录下，

然后输入下面代码进行安装：

$ bash Anaconda3-2022.05-Linux-x86_64.sh
  • 根据提示按ENTER键
  • 然后一直按空格键
  • 后面遇到[yes | no]的则一直yes，然后enter键
  • 遇到路径的就直接enter
  • 等待一段时间后，出现下图所示字样的则表示安装完成，完成后关掉终端再重新打开一个终端。

3.3 创建py36虚拟环境

  • 创建名为RKNN，python版本为3.6的虚拟环境
conda create -n RKNN python=3.6
  • 创建完成后激活虚拟环境，然后验证python版本是否为3.6，确认无误后就可以开始整活啦！！！
  • 删除虚拟环境(若环境出错，或搞崩了，则可以用以下指令删除）
conda remove -n RKNN --all

4、虚拟端安装RKNN-Toolkit

根据之前的判断和选择，RKNN-Toolkit的版本为1.7.1 。

4.1 下载RKNN-Toolkit

   这里有两种下载RKNN-Toolkit的方法。方法一直接去Github下载，然后放到虚拟机中安装，稳定但是麻烦；方法二使用wget指令下载，不稳定但方便。（当然稳不稳定最主要还得看网络怎么样）
1、从Github下载rknn-toolkit库。

下载后解压，其中文件组织结构如下，将解压后的文件夹放到虚拟机中进行安装。

2、输入代码直接下载

  • 下载
$ wget https://github.com/rockchip-linux/rknn-toolkit/releases/download/v1.7.1/rknn-toolkit-v1.7.1-packages.tar.gz
  • 解压
$ tar -zxvf rknn-toolkit-v1.7.1-packages.tar.gz
  • 修改依赖库版本

   前面说过要使用统一的版本，因此这里需要进行修改，才可以顺利安装成功（不使用与PC端一样的版本，会在后面转换模型和运行RK模型时出错，亲自尝试过~~~）。

tensorflow == 2.5.2
torch == 1.8.1
torchvision == 0.9.1
mxnet == 1.5.0
  • 安装依赖库
    如果ubuntu是装在ubuntu的物理机上, 且有GPU, 那么可以直接装requirement-gpu，没有GPU的话就装requirement-cpu。
$ cd packages
$ pip install -r requirements-cpu.txt

不出意外的话就安装成功啦！！！

4.2 安装RKNN-Toolkit

   装好依赖之后, 再根据所搭建的环境, 安装对应的轮子rknn_toolkit-1.7.1-cp36-cp36m-linux_x86_64.whl。

pip install rknn_toolkit-1.7.1-cp36-cp36m-linux_x86_64.whl

   aach64是安装在arm-64的系统上的, 因为这是python的库, 所以是可以直接在rv/rk系列的开发板上装的。

   不出意外的出意外了！！！opencv-python的wheel不能安装，这是个bug，默认版本opencv-python==4.3.0.38不能安装，但可以换个版本安装。

pip install opencv-python==4.5.5.62

   再次安装一般不会有什么问题，如果太慢, 就想办法用用国内的pip源吧。

4.3 验证环境是否正确

   如下图所示，在环境中首先输入python，然后再 import rknn，若不报错则说明安装成功。

mdashRKNNxffxff0cxff0pytorchpython人工智能

有关RKNN模型部署（2）——环境配置的更多相关文章

  1. ruby-on-rails - Rails - 子类化模型的设计模式是什么？ - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值，我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式？如果方法中没有大的if-else语句，这是如何干净利落地完成的？ 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.co

  2. ruby-on-rails - Rails - 一个 View 中的多个模型 - 2

    我需要从一个View访问多个模型。以前，我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它，但这似乎不是“ruby方式”，我将需要在不久的将来访问更多模型。这可能会变得很脏，是否有针对这种情况的任何技术？注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展，本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向，这似乎很麻烦。最终从任何

  3. ruby-on-rails - 在混合/模块中覆盖模型的属性访问器 - 2

    我有一个包含模块的模型。我想在模块中覆盖模型的访问器方法。例如:classBlah这显然行不通。有什么想法可以实现吗？ 最佳答案 您的代码看起来是正确的。我们正在毫无困难地使用这个确切的模式。如果我没记错的话，Rails使用#method_missing作为属性setter，因此您的模块将优先，阻止ActiveRecord的setter。如果您正在使用ActiveSupport::Concern(参见thisblogpost)，那么您的实例方法需要进入一个特殊的模块:classBlah

  4. ruby-on-rails - 如何验证非模型(甚至非对象)字段 - 2

    我有一个表单，其中有很多字段取自数组(而不是模型或对象)。我如何验证这些字段的存在？solve_problem_pathdo|f|%>... 最佳答案 创建一个简单的类来包装请求参数并使用ActiveModel::Validations。#definedsomewhere,atthesimplest:require'ostruct'classSolvetrue#youcouldevencheckthesolutionwithavalidatorvalidatedoerrors.add(:base,"WRONG!!!")unlesss

  5. ruby-on-rails - form_for 中不在模型中的自定义字段 - 2

    我想向我的Controller传递一个参数，它是一个简单的复选框，但我不知道如何在模型的form_for中引入它，这是我的观点:{:id=>'go_finance'}do|f|%>Transferirde:para:Entrada:"input",:placeholder=>"Quantofoiganho?"%>Saída:"output",:placeholder=>"Quantofoigasto?"%>Nota:我想做一个额外的复选框，但我该怎么做，模型中没有一个对象，而是一个要检查的对象，以便在Controller中创建一个ifelse，如果没有检查，请帮助我，非常感谢,谢谢

  6. ruby-on-rails - 独立 ruby​​ 脚本的配置文件 - 2

    我有一个在Linux服务器上运行的ruby​​脚本。它不使用rails或任何东西。它基本上是一个命令行ruby​​脚本，可以像这样传递参数:./ruby_script.rbarg1arg2如何将参数抽象到配置文件(例如yaml文件或其他文件)中？您能否举例说明如何做到这一点？提前谢谢你。 最佳答案 首先，您可以运行一个写入YAML配置文件的独立脚本:require"yaml"File.write("path_to_yaml_file",[arg1,arg2].to_yaml)然后，在您的应用中阅读它:require"yaml"arg

  7. ruby-on-rails - 如何将验证与模型分开 - 2

    我有一些非常大的模型，我必须将它们迁移到最新版本的Rails。这些模型有相当多的验证(User有大约50个验证)。是否可以将所有这些验证移动到另一个文件中？说app/models/validations/user_validations.rb。如果可以，有人可以提供示例吗？ 最佳答案 您可以为此使用关注点:#app/models/validations/user_validations.rbrequire'active_support/concern'moduleUserValidationsextendActiveSupport:

  8. Ruby Sinatra 配置用于生产和开发 - 2

    我已经在Sinatra上创建了应用程序，它代表了一个简单的API。我想在生产和开发上进行部署。我想在部署时选择，是开发还是生产，一些方法的逻辑应该改变，这取决于部署类型。是否有任何想法，如何完成以及解决此问题的一些示例。例子:我有代码get'/api/test'doreturn"Itisdev"end但是在部署到生产环境之后我想在运行/api/test之后看到ItisPROD如何实现？ 最佳答案 根据SinatraDocumentation:EnvironmentscanbesetthroughtheRACK_ENVenvironm

  9. ruby-on-rails - Rails 模型——非持久类成员或属性？ - 2

    对于Rails模型，是否可以/建议让一个类的成员不持久保存到数据库中？我想将用户最后选择的类型存储在session变量中。由于我无法从我的模型中设置session变量，我想将值存储在一个“虚拟”类成员中，该成员只是将值传递回Controller。你能有这样的类(class)成员吗？ 最佳答案 将非持久属性添加到Rails模型就像任何其他Ruby类一样:classUser扩展解释:在Ruby中，所有实例变量都是私有(private)的，不需要在赋值前定义。attr_accessor创建一个setter和getter方法:classUs

  10. ruby-on-rails - Rails - 从另一个模型中创建一个模型的实例 - 2

    我有一个正在构建的应用程序，我需要一个模型来创建另一个模型的实例。我希望每辆车都有4个轮胎。汽车模型classCar轮胎模型classTire但是，在make_tires内部有一个错误，如果我为Tire尝试它，则没有用于创建或新建的activerecord方法。当我检查轮胎时，它没有这些方法。我该如何补救？错误是这样的:未定义的方法'create'forActiveRecord::AttributeMethods::Serialization::Tire::Module我测试了两个环境:测试和开发，它们都因相同的错误而失败。 最佳答案

随机推荐