您的位置 >> 产业新闻

Vivado HLS图像拼接系统原理及实现
更新于2014-09-23 17:27:13 文章出处:互联网
分享到:

 

 

从工业检测系统到自动驾驶系统,计算机视觉是一个包括许多有趣应用的广泛领域。许多这样的系统在原型和实现阶段都要用到开源计算机视觉 (Open Source Computer Vision Library,OpenCV)。OpenCV优化了许多功能函数,并在实时的计算机视觉程序中得到应用。但是,由于嵌入式优化策略得天独厚的优势,仍然值得大家尝试利用逻辑硬件来加速OpenCV的性能。

 

目前,OpenCV被广泛用于开发计算机视觉应用中。OpenCV包含2500多个优化的视频函数的函数库,并且专门针对台式机处理器和图形处理器(Graphic Processing Unit,GPU)进行优化。  


Xilinx提供的Vivado HLS高层次综合工具能够通过C/C++ 编写的代码直接创建RTL硬件,显著提高设计效率;同时,Xilinx Zynq全可编程SOC系列器件嵌入双核ARM Cortex-A9处理器将软件可编程能力与FPGA的硬件可编程能力实现完美结合,以低功耗和低成本等系统优势实现单芯片无以伦比的系统性能、灵活性、可扩展性,加速图形处理产品设计上市时间。OpenCV拥有成千上万的用户,而且OpenCV的设计无需修改即可在 Zynq器件的ARM处理器上运行。但是,利用OpenCV实现的高清处理经常受外部存储器的限制,尤其是存储带宽会成为性能瓶颈,存储访问也限制了功耗效率。通过Xilinx公司提供的Vivado HLS高级语言综合工具,设计者可以轻松实现OpenCV C++视频处理设计到RTL代码的转换,将其转换为可以在Zynq实现的硬件加速器或者在FPGA上实现的实时硬件视频处理单元。


1、OpenCV和HLS视频库


如图15.83所示,OpenCV在视频处理系统中可以有不同的应用方式。在图15.83(a)中,算法的设计和实现完全依赖于OpenCV的函数调用,利用文件的访问功能进行图片的输入、输出和处理;在图15.83(b)中,算法可以在嵌入式系统(例如Zynq Base TRD)中实现,利用特定平台的函数调用访问输入输出图像,但是,视频处理的实现依赖于嵌入式系统中处理器(例如Cortex™-A9)对OpenCV功能函数的调用;在图15.83(c)中,处理算法的OpenCV功能函数被Xilinx Vivado HLS视频库函数替换,而OpenCV函数则用于访问输入和输出图像,提供视频处理算法实现的设计原型。Vivado HLS提供的视频库函数可以被综合,在对这些函数综合后,可以将处理程序模块整合到诸如Zynq的可编程逻辑中。这样,这些程序逻辑块就可以处理由处理器生产的视频流、从文件中读取的数据、外部输入的实时视频流。

图15.83  OpenCV应用的不同方式

 

Vivado HLS包含大量的视频库函数,方便于构建各种各样的视频处理程序。通过可综合的C++代码,实现这些视频库函数。在视频处理功能和数据结构方面,这些综合后的代码与OpenCV基本对应。许多视频概念与抽象和OpenCV非常相似,很多图像处理模块函数和OpenCV库函数一致。


例如,OpenCV中用于代表图片的很重要的一个类便是cv::Mat类,cv::Mat对象定义如下:
cv::Mat image(1080, 1920, CV_8UC3);


该行代码声明了一个1080×1920像素,每一个像素都是由3个8位无符号数表示的变量image。对应的HLS视频库模板类hls::Mat<>声明如下:
hls::Mat<2047, 2047, HLS_8UC3> image(1080, 1920);


这两行代码的参数形式、图像尺寸最大值、语法规则不同,生成的对象是相似的。如果图像规定的最大尺寸和图像的实际尺寸相同的话,也可以用下面的代码替代:
hls::Mat<1080, 1920, HLS_8UC3> image( );
表15.14给出了一个简单的图像转换函数应用对比(功能实现dst=src*2.0+0.0)。

表15.15和表15.16给出了OpenCV和HLS视频库的核心结构和HLS视频库。

 


2、AXI4流和视频接口


通过AXI4流协议,Xilinx提供的视频处理模块实现像素数据通信。尽管底层AXI4流媒体协议不需要限制图片尺寸,但是,若图片尺寸相同,则将会大大简化大部分的复杂视频处理计算。对于遵循AXI4流协议的输入接口,可以保证每一帧都包含ROWS * COLS的像素。在保证前面视频帧保持完整性和矩形性的情况下,后续模块实现对视频帧有效地处理。


如表15.17所示,Vivado HLS包含2个可综合的视频接口转换函数。

视频库还提供了其他不可综合的视频接口函数,这些函数用于在基于OpenCV测试平台与综合后的函数结合。表15.18给出了不可综合的接口函数。

VivadoHLS视频处理函数库使用hls::Mat<>数据类型,这种类型用于模型化视频像素流处理,实质等同于hls::steam<>流的类型,而不是OpenCV中在外部memory中存储的matrix矩阵类型。因此,在用Vivado HLS实现OpenCV的设计中,需要将输入和输出HLS可综合的视频设计接口,修改为Video stream接口,也就是采用HLS提供的video接口可综合函数,实现AXI4 video stream到VivadoHLS中hls::Mat<>类型的转换。


3、 OpenCV到RTL代码转换的流程

OpenCV图像处理是基于存储器帧缓存而构建的,它总是假设视频帧数据存放在外部DDR存储器中。由于处理器的小容量高速缓存性能的限制,因此,OpenCV访问局部图像性能较差。并且,从性能的角度来说,基于OpenCV设计的架构比较复杂,功耗更高。在对分辨率或帧速率要求低,或者在更大的图像中对需要的特征或区域进行处理时,OpenCV似乎足以满足很多应用的要求;但是,对于高分辨率和高帧率实时处理的应用中,OpenCV很难满足高性能和低功耗的需求。


基于视频流的架构能提供高性能和低功耗,链条化的图像处理函数减少了外部存储器访问。针对视频优化的行缓存和窗口缓存比处理器高速缓存更简单高效,更易于使用Xilinx提供的Vivado HLS 在FPGA器件中采用数据流优化来实现。


Vivado HLS对OpenCV的支持,不是指可以将OpenCV的函数库直接综合成RTL代码,而是需要将代码转换为可综合的代码。这些可综合的视频库称为Vivado HLS视频库,它们由Vivado HLS工具提供。


由于OpenCV函数一般都包含动态的内存分配、浮点以及假设图像在外部存储器中存放或者修改,所以不能直接通过Vivado HLS对OpenCV函数进行综合。


Vivado HLS视频库用于替换很多基本的 OpenCV函数,它与OpenCV具有相似的接口和算法,它主要针对在FPGA架构中实现的图像处理函数,其中包含了专门面向FPGA的优化,比如定点运算而非浮点运算(不必精确到比特位),片上的行缓存(line buffer)和窗口缓存(window buffer)。


下面列出了在FPGA/Zynq开发中使用VivadoHLS实现OpenCV的设计流程:


(1) 如图15.84所示,给出了开发OpenCV的应用流程。在计算机上开发OpenCV的应用时,由于是开源的设计,采用C++的编译器对其进行编译,仿真和调试,最后产生可执行文件。无需修改这些设计,就可以在ARM内核上运行OpenCV应用。

图15.84 开发OpenCV应用

(2)如图15.85所示,使用I/O函数抽取FPGA实现的部分,并且使用可综合的Vivado HLS 视频库函数代码来代替OpenCV函数的调用。


(3)运行Vivado HLS生成RTL代码。并且,在Vivado HLS工程中启动co-sim,HLS工具自动重用OpenCV的测试激励,来验证所生成的RTL代码。在Xilinx的ISE/Vivado开发环境中,对RTL进行集成,并且在SoC/FPGA中实现它们。

图15.85 OpenCV应用的软硬划分

 

PS:本文出自《xilinx FPGA数字信号处理权威指南-从HDL到模型和C描述》,清华大学出版社,何宾,2014年10月出版

 

 

关于OpenHW | OpenHW使用说明 | FAQ | 相关法律 | 版权声明 | 网站地图
联系邮件:aimei@eefocus.com  联系电话: 0512-80981663-8069    Fax:0512-80981279
Powered by eefocus.com