草庐IT

【ROS】python rospy定义一个节点实现图像目标检测结果的发布和在Rviz上的实时显示

你这显得不专业 2023-05-18 原文

写在前面

  之前,我们调用了torch中的yolov5模型,把机器人上相机采集的RGB图像放入模型中去做目标检测,最近想实现把检测结果能够实时在Rviz上做一个展示的效果。其实思路很简单,就是自己定义一个Publisher把目标检测的结果放进去,然后在Rviz里针对它去做一个订阅,实现效果放在文章最后了。接下来,说一下具体的解决方法。

1. 明确要发布的消息类型

  参考Camera的数据类型,我们需要发布的应该是一个Image类型的msg。Image数据类型的具体结构查阅可以参考作者上一篇文章,这里也还是放一个我读到的Camera的一个Image的msg:

  对于Image类型的数据来说,我们不需要去先new一个类,再自己去写header和定义宽、高之类的,这里我们只需要给出data数据,我们可以用cv_bridge.cv2_to_imgmsg(img, "bgr8")去完成cv2读取的图像格式向ros的图像格式的转换,具体就是:

from cv_bridge import CvBridge

cv_bridge = CvBridge()
img_msg = cv_bridge.cv2_to_imgmsg(img, "bgr8")

  更详细的也可以参考下面的链接。https://blog.csdn.net/gezongbo/article/details/122706911

2. YOLOv5模型的调用和结果返回

  关于YOLOv5模型的调用,Pytorch官方的hub里面给出了很多模型,我们这里用的是YOLOv5x,使用方法也非常简单,具体步骤可以参考下面两个链接:
  https://pytorch.org/hub/ultralytics_yolov5/
  https://github.com/ultralytics/yolov5/issues/36
  需要注意的是,如果直接将检测后得到的result返回,返回值应该是一个Detections类的实例;而我们需要返回的值是检测完之后的带检测框的图像,方法为调用该类中的render()方法,在第二个链接的Base64 Results部分也有使用,想深入了解的话也可以去yolov5模型的代码里去查看,应该在yolov5/models/common.py中。模型地址:
https://github.com/ultralytics/yolov5
简单来说,如果传入模型的只有一张图片,那么我们获取这张带检测结果的图像只需要:

import torch

# Model
model = torch.hub.load('ultralytics/yolov5', 'yolov5s')
# Image
img = cv2.imread('test.png')
img = cv2.cvtColor(img,cv2.COLOR_BGR2RGB)
# Inference
results = yolo(img)
# Get the Image with boundingbox
result_img = results.render()[0]

3. 如何写一个Publisher

  关于如何写一个发布器Publisher, 可以参考这一篇文章。https://blog.csdn.net/Mr_Poohhhh/article/details/103797043

大概就是:

class MyPublisher:
    def __init__(self):
        # 定义一个发布器
        self.__pub_ = rospy.Publisher('topic to be published',
        Pub msg type, queue_size)
	
    def my_public(self,data):
		# data为需要publish的数据	
        self.__pub_.publish(data)

def main():
	# 这里自己处理好好要发布的data
    data = Pub msg type() 
    publisher = MyPublisher()
    publisher.my_public(data)
if __name__ == "__main__":
    main()

4. 完整代码

#!/usr/bin/env python

import torch
import rospy
import numpy as np
import copy
import cv2
from cv_bridge import CvBridge
from sensor_msgs.msg import Image
import message_filters

class YoloRGB(object):
    def __init__(self):
        self.cv_bridge = CvBridge()
        # /locobot/yolo_result/img 是我们自己定义的节点名字
        self.yolo_img_pub = rospy.Publisher("/locobot/yolo_result/img", Image, queue_size=5)
    
    def img_pub(self, img=None):
        img_msg = self.cv_bridge.cv2_to_imgmsg(img, "bgr8")
        self.yolo_img_pub.publish(img_msg)

def main():
	# 输入图片(这里可以自己做替换)
	img = cv2.imread('test.png')
	img = cv2.cvtColor(img,cv2.COLOR_BGR2RGB)
	
	# 检测部分
	model = torch.hub.load('ultralytics/yolov5', 'yolov5s')
	results = yolo(img)
	result_img = results.render()[0]
	
	# 这里写一个while(true)是因为程序运行完成了之后这个publisher就订阅不到了
	# 具体效果自己把握
	yolo_pub = YoloRGB()
	while(true):
		# 发布imgmsg
		yolo_pub.img_pub(result_img)
    
if __name__ == "__main__":
    main()

5. 在Rviz订阅我们自己发布的话题

  在我们自己的程序跑起来之后,可以打开Rviz找到我们自己定义的话题名,然后选择加入到我们的界面中。具体步骤为:
  左边Displays窗口点Add按钮。

  切换到By topic下找到我们自己定义命名的topic。

  可以看到我们新加入的Image能够成功显示了。

  最后的效果就是这样啦。

有关【ROS】python rospy定义一个节点实现图像目标检测结果的发布和在Rviz上的实时显示的更多相关文章

  1. ruby - Facter::Util::Uptime:Module 的未定义方法 get_uptime (NoMethodError) - 2

    我正在尝试设置一个puppet节点,但ruby​​gems似乎不正常。如果我通过它自己的二进制文件(/usr/lib/ruby/gems/1.8/gems/facter-1.5.8/bin/facter)在cli上运行facter,它工作正常,但如果我通过由ruby​​gems(/usr/bin/facter)安装的二进制文件,它抛出:/usr/lib/ruby/1.8/facter/uptime.rb:11:undefinedmethod`get_uptime'forFacter::Util::Uptime:Module(NoMethodError)from/usr/lib/ruby

  2. ruby - 使用 Vim Rails,您可以创建一个新的迁移文件并一次性打开它吗? - 2

    使用带有Rails插件的vim,您可以创建一个迁移文件,然后一次性打开该文件吗?textmate也可以这样吗? 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件,这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails,您可以创建一个新的迁移文件并一次性打开它吗?,我们在StackOverflow上找到一个类似的问题: https://sta

  3. ruby-on-rails - Rails - 一个 View 中的多个模型 - 2

    我需要从一个View访问多个模型。以前,我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它,但这似乎不是“ruby方式”,我将需要在不久的将来访问更多模型。这可能会变得很脏,是否有针对这种情况的任何技术?注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展,本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向,这似乎很麻烦。最终从任何

  4. ruby-on-rails - 渲染另一个 Controller 的 View - 2

    我想要做的是有2个不同的Controller,client和test_client。客户端Controller已经构建,我想创建一个test_clientController,我可以使用它来玩弄客户端的UI并根据需要进行调整。我主要是想绕过我在客户端中内置的验证及其对加载数据的管理Controller的依赖。所以我希望test_clientController加载示例数据集,然后呈现客户端Controller的索引View,以便我可以调整客户端UI。就是这样。我在test_clients索引方法中试过这个:classTestClientdefindexrender:template=>

  5. ruby-on-rails - Rails 3.2.1 中 ActionMailer 中的未定义方法 'default_content_type=' - 2

    我在我的项目中添加了一个系统来重置用户密码并通过电子邮件将密码发送给他,以防他忘记密码。昨天它运行良好(当我实现它时)。当我今天尝试启动服务器时,出现以下错误。=>BootingWEBrick=>Rails3.2.1applicationstartingindevelopmentonhttp://0.0.0.0:3000=>Callwith-dtodetach=>Ctrl-CtoshutdownserverExiting/Users/vinayshenoy/.rvm/gems/ruby-1.9.3-p0/gems/actionmailer-3.2.1/lib/action_mailer

  6. ruby-on-rails - form_for 中不在模型中的自定义字段 - 2

    我想向我的Controller传递一个参数,它是一个简单的复选框,但我不知道如何在模型的form_for中引入它,这是我的观点:{:id=>'go_finance'}do|f|%>Transferirde:para:Entrada:"input",:placeholder=>"Quantofoiganho?"%>Saída:"output",:placeholder=>"Quantofoigasto?"%>Nota:我想做一个额外的复选框,但我该怎么做,模型中没有一个对象,而是一个要检查的对象,以便在Controller中创建一个ifelse,如果没有检查,请帮助我,非常感谢,谢谢

  7. ruby - 主要 :Object when running build from sublime 的未定义方法 `require_relative' - 2

    我已经从我的命令行中获得了一切,所以我可以运行rubymyfile并且它可以正常工作。但是当我尝试从sublime中运行它时,我得到了undefinedmethod`require_relative'formain:Object有人知道我的sublime设置中缺少什么吗?我正在使用OSX并安装了rvm。 最佳答案 或者,您可以只使用“require”,它应该可以正常工作。我认为“require_relative”仅适用于ruby​​1.9+ 关于ruby-主要:Objectwhenrun

  8. ruby-on-rails - 如果 Object::try 被发送到一个 nil 对象,为什么它会起作用? - 2

    如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象

  9. ruby - 为什么 SecureRandom.uuid 创建一个唯一的字符串? - 2

    关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion为什么SecureRandom.uuid创建一个唯一的字符串?SecureRandom.uuid#=>"35cb4e30-54e1-49f9-b5ce-4134799eb2c0"SecureRandom.uuid方法创建的字符串从不重复?

  10. ruby-on-rails - date_field_tag,如何设置默认日期? [ rails 上的 ruby ] - 2

    我想设置一个默认日期,例如实际日期,我该如何设置?还有如何在组合框中设置默认值顺便问一下,date_field_tag和date_field之间有什么区别? 最佳答案 试试这个:将默认日期作为第二个参数传递。youcorrectlysetthedefaultvalueofcomboboxasshowninyourquestion. 关于ruby-on-rails-date_field_tag,如何设置默认日期?[rails上的ruby],我们在StackOverflow上找到一个类似的问

随机推荐