计算机视觉
图像处理

OpenCV 编程简介(矩阵/图像/视频的基本读写操作)

Introduction to programming with Opencv
OpenCV编程简介

Gady Agam
Department of Computer Science
January 27, 2006
Illinois Institute of Technology

— URL: http://www.cs.iit.edu/~agam/cs512/lect-notes/opencv-intro/opencv-intro.html#SECTION00040000000000000000

摘要:
本文旨在帮助读者快速入门OpenCV,而无需阅读冗长的参考手册。掌握了OpenCV的以下基础知识后,有需要的话再查阅相关的参考手册。

目录
一    简介
o    OpenCV的特点
o    有用的学习资源
o    命名规则
o    编译建议
o    一个例程

二    GUI命令
o    窗口管理
o    输入处理

三   OpenCV基本的数据结构
o    图像数据结构
o    矩阵与向量
o    其它数据结构

四    图像处理
o    内存分配与释放
o    读取和写入图像
o    访问图像像素
o    图像转换
o    绘图指令

五    矩阵处理
o    内存分配与释放
o    访问矩阵元素
o    矩阵/向量运算

六    视频处理
o    视频的帧捕捉
o    帧信息的读取与设置
o    保存视频文件

=================================================
一、简介
1、OpenCV的特点
(1)    总体描述
o    OpenCV是一个基于C/C++语言的开源图像处理函数库
o    其代码都经过优化,可用于实时处理图像
o    具有良好的可移植性
o    可以进行图像/视频载入、保存和采集的常规操作
o    具有低级和高级的应用程序接口(API)
o    提供了面向Intel IPP高效多媒体函数库的接口,可针对你使用的Intel CPU优化代码,提高程序性能(译注:OpenCV 2.0版的代码已显著优化,无需IPP来提升性能,故2.0版不再提供IPP接口)

(2)    功能
o    图像数据操作(内存分配与释放,图像复制、设定和转换)
Image data manipulation (allocation, release, copying, setting, conversion).
o    图像/视频的输入输出(支持文件或摄像头的输入,图像/视频文件的输出)
Image and video I/O (file and camera based input, image/video file output).
o    矩阵/向量数据操作及线性代数运算(矩阵乘积、矩阵方程求解、特征值、奇异值分解)
Matrix and vector manipulation and linear algebra routines (products, solvers, eigenvalues, SVD).
o    支持多种动态数据结构(链表、队列、数据集、树、图)
Various dynamic data structures (lists, queues, sets, trees, graphs).
o    基本图像处理(去噪、边缘检测、角点检测、采样与插值、色彩变换、形态学处理、直方图、图像金字塔结构)
Basic image processing (filtering, edge detection, corner detection, sampling and interpolation, color conversion, morphological operations, histograms, image pyramids).
o    结构分析(连通域/分支、轮廓处理、距离转换、图像矩、模板匹配、霍夫变换、多项式逼近、曲线拟合、椭圆拟合、狄劳尼三角化)
Structural analysis (connected components, contour processing, distance transform, various moments, template matching, Hough transform, polygonal approximation, line fitting, ellipse fitting, Delaunay triangulation).
o    摄像头定标(寻找和跟踪定标模式、参数定标、基本矩阵估计、单应矩阵估计、立体视觉匹配)
Camera calibration (finding and tracking calibration patterns, calibration, fundamental matrix estimation, homography estimation, stereo correspondence).
o    运动分析(光流、动作分割、目标跟踪)
Motion analysis (optical flow, motion segmentation, tracking).
o    目标识别(特征方法、HMM模型)Object recognition (eigen-methods, HMM).
o    基本的GUI(显示图像/视频、键盘/鼠标操作、滑动条)
Basic GUI (display image/video, keyboard and mouse handling, scroll-bars).
o    图像标注(直线、曲线、多边形、文本标注)
Image labeling (line, conic, polygon, text drawing)

(3)    OpenCV模块
o    cv – 核心函数库
o    cvaux – 辅助函数库
o    cxcore – 数据结构与线性代数库
o    highgui – GUI函数库
o    ml – 机器学习函数库

2、有用的学习资源
(1)    参考手册:
o    /docs/index.htm (译注:在你的OpenCV安装目录内)
?    网络资源:
o    官方网站: http://www.intel.com/technology/computing/opencv/
o    软件下载: http://sourceforge.net/projects/opencvlibrary/
(2)    书籍:
o    Open Source Computer Vision Library
by Gary R. Bradski, Vadim Pisarevsky, and Jean-Yves Bouguet, Springer, 1st ed. (June, 2006).
chenyusiyuan: 补充以下书籍
o    Learning OpenCV – Computer Vision with the OpenCV Library
by Gary Bradski & Adrian Kaehler, O’Reilly Media, 1 st ed. (September, 2008).
o    OpenCV教程——基础篇
作者:刘瑞祯 于仕琪,北京航空航天大学出版社,出版日期:200706
(3)   视频处理例程(在 /samples/c/):
o    颜色跟踪: camshiftdemo
o    点跟踪: lkdemo
o    动作分割: motempl
o    边缘检测: laplace
(4)    图像处理例程 (在 /samples/c/):
o    边缘检测: edge
o    图像分割: pyramid_segmentation
o    形态学: morphology
o    直方图: demhist
o    距离变换: distrans
o    椭圆拟合: fitellipse

3、OpenCV 命名规则
(1)   函数名:

    cvActionTargetMod(...) 

    Action = 核心功能(core functionality) (e.g. set, create)
    Target = 目标图像区域(target image area) (e.g. contour, polygon)
    Mod    = (可选的)调整语(optional modifiers) (e.g. argument type)

(2)   矩阵数据类型:

    CV_<bit_depth>(S|U|F)C<number_of_channels> 

    S = 符号整型
    U = 无符号整型
    F = 浮点型 

    E.g.: CV_8UC1 是指一个8位无符号整型单通道矩阵, 
          CV_32FC2是指一个32位浮点型双通道矩阵.

(3)    图像数据类型:

    IPL_DEPTH_<bit_depth>(S|U|F) 

    E.g.: IPL_DEPTH_8U 图像像素数据是8位无符号整型.
          IPL_DEPTH_32F图像像素数据是32位浮点型.

(4)    头文件:

    #include <cv.h>
    #include <cvaux.h>
    #include <highgui.h>  
    #include <ml.h>
    #include <cxcore.h>   // 一般不需要,cv.h 内已包含该头文件

4、编译建议
(1)   Linux:

g++ hello-world.cpp -o hello-world /
    -I /usr/local/include/opencv -L /usr/local/lib  /
    -lm -lcv -lhighgui -lcvaux

(2)    Windows:
在Visual Studio的‘选项’和‘项目’中设置好OpenCV相关文件的路径。

5、C例程

////////////////////////////////////////////////////////////////////////
//
// hello-world.cpp
//
// 该程序从文件中读入一幅图像,将之反色,然后显示出来. 
//
////////////////////////////////////////////////////////////////////////
#include <stdlib.h>
#include <stdio.h>
#include <math.h>
#include <cv.h>
#include <highgui.h> 

int main(int argc, char *argv[])
{
  IplImage* img = 0; 
  int height,width,step,channels;
  uchar *data;
  int i,j,k; 

  if(argc<2){
    printf("Usage: main /n/7");
    exit(0);
  } 

  // load an image  
  img=cvLoadImage(argv[1]);
  if(!img){
    printf("Could not load image file: %s/n",argv[1]);
    exit(0);
  } 

  // get the image data
  height    = img->height;
  width     = img->width;
  step      = img->widthStep;
  channels  = img->nChannels;
  data      = (uchar *)img->imageData;
  printf("Processing a %dx%d image with %d channels/n",height,width,channels); 

  // create a window
  cvNamedWindow("mainWin", CV_WINDOW_AUTOSIZE); 
  cvMoveWindow("mainWin", 100, 100); 

  // invert the image
  // 相当于 cvNot(img);
  for(i=0;i<height;i++) for(j=0;j<width;j++) for(k=0;k<channels;k++)
    data[i*step+j*channels+k]=255-data[i*step+j*channels+k]; 

  // show the image
  cvShowImage("mainWin", img ); 

  // wait for a key
  cvWaitKey(0); 

  // release the image
  cvReleaseImage(&img );
  return 0;
}

=================================================
二、GUI 指令
1、窗口管理
(1)    创建和定位一个新窗口:

  cvNamedWindow("win1", CV_WINDOW_AUTOSIZE); 
  cvMoveWindow("win1", 100, 100); // offset from the UL corner of the screen

(2)    载入图像:

  IplImage* img=0; 
  img=cvLoadImage(fileName);
  if(!img) printf("Could not load image file: %s/n",fileName);

(3)   显示图像:

 cvShowImage("win1",img);

该函数可以显示彩色或灰度的字节型/浮点型图像。字节型图像像素值范围为[0-255];浮点型图像像素值范围为[0-1]。彩色图像的三色元素按BGR(蓝-红-绿)顺序存储。
(4)   关闭窗口:

 cvDestroyWindow("win1");

(5)   改变窗口大小:

cvResizeWindow("win1",100,100); // new width/heigh in pixels

2、输入处理
(1)    处理鼠标事件:
o    定义一个鼠标处理程序:

void mouseHandler(int event, int x, int y, int flags, void* param)
  {
    switch(event){
      case CV_EVENT_LBUTTONDOWN:
        if(flags & CV_EVENT_FLAG_CTRLKEY) 
          printf("Left button down with CTRL pressed/n");
        break; 

      case CV_EVENT_LBUTTONUP:
        printf("Left button up/n");
        break;
    }
  }

x,y:   相对于左上角的像素坐标

event: CV_EVENT_LBUTTONDOWN,   CV_EVENT_RBUTTONDOWN,   CV_EVENT_MBUTTONDOWN,
CV_EVENT_LBUTTONUP,     CV_EVENT_RBUTTONUP,     CV_EVENT_MBUTTONUP,
CV_EVENT_LBUTTONDBLCLK, CV_EVENT_RBUTTONDBLCLK, CV_EVENT_MBUTTONDBLCLK,
CV_EVENT_MOUSEMOVE:

flags: CV_EVENT_FLAG_CTRLKEY, CV_EVENT_FLAG_SHIFTKEY, CV_EVENT_FLAG_ALTKEY,
CV_EVENT_FLAG_LBUTTON, CV_EVENT_FLAG_RBUTTON,  CV_EVENT_FLAG_MBUTTON
o    注册该事件处理程序:

mouseParam=5;
  cvSetMouseCallback("win1",mouseHandler,&mouseParam);

(2)    处理键盘事件:
o    实际上对于键盘输入并没有专门的事件处理程序.
o    按一定间隔检测键盘输入(适用于循环体中):

 int key;
  key=cvWaitKey(10); // wait 10ms for input

o    中止程序等待键盘输入:

 int key;
  key=cvWaitKey(0); // wait indefinitely for input

o    键盘输入的循环处理程序:

while(1){
    key=cvWaitKey(10);
    if(key==27) break; 

    switch(key){
      case 'h':
        ...
        break;
      case 'i':
        ...
        break;
    }
  }

(3)    处理滑动条事件:
o    定义一个滑动条处理程序:

void trackbarHandler(int pos)
  {
    printf("Trackbar position: %d/n",pos);
  }

o    注册该事件处理程序:

 int trackbarVal=25;
  int maxVal=100;
  cvCreateTrackbar("bar1", "win1", &trackbarVal ,maxVal , trackbarHandler);

o    获取当前的滑动条位置:

int pos = cvGetTrackbarPos("bar1","win1");

o    设置滑动条位置:

cvSetTrackbarPos("bar1", "win1", 25);

 

=================================================
三、OpenCV的基本数据结构
(译注:OpenCV 1.1、1.2或2.0版本中各数据结构的结构体元素有所调整,以下仅作参考)
1、图像数据结构
(1)    IPL 图像:

IplImage
  |-- int  nChannels;     // 颜色通道数目 (1,2,3,4)
  |-- int  depth;         // 像素的位深: 
  |                       //   IPL_DEPTH_8U, IPL_DEPTH_8S, 
  |                       //   IPL_DEPTH_16U,IPL_DEPTH_16S, 
  |                       //   IPL_DEPTH_32S,IPL_DEPTH_32F, 
  |                       //   IPL_DEPTH_64F
  |-- int  width;         // 图像宽度(像素为单位)
  |-- int  height;        // 图像高度
  |-- char* imageData;    // 图像数据指针
  |                       // 注意彩色图像按BGR顺序存储数据
  |-- int  dataOrder;     // 0 - 将像素点不同通道的值交错排在一起,形成单一像素平面 
  |                       // 1 - 把所有像素同通道值排在一起,形成若干个通道平面,再把平面排列起来
  |                       // cvCreateImage 只能创建像素交错排列式的图像
  |-- int  origin;        // 0 – 像素原点为左上角,
  |                       // 1 – 像素原点为左下角 (Windows bitmaps style)
  |-- int  widthStep;     // 相邻行的同列点之间的字节数
  |-- int  imageSize;     // 图像的大小(字节为单位) = height*widthStep
  |-- struct _IplROI *roi;// 图像的感兴趣区域(ROI). ROI非空时对图像的
  |                       // 处理仅限于ROI区域.
  |-- char *imageDataOrigin; // 图像数据未对齐时的数据原点指针
  |                          // (需要正确地重新分配图像内存 )
  |                          // (needed for correct image deallocation)
  |-- int  align;         // 图像数据的行对齐: 4 or 8 byte alignment
  |                       // OpenCV 中无此项,采用widthStep代替
  |-- char colorModel[4]; // 颜色模型 – OpenCV中忽略此项

2、矩阵与向量
(1)    矩阵:

CvMat                      // 2D 矩阵
  |-- int   type;          // 元素类型 (uchar,short,int,float,double) 与标志
  |-- int   step;          // 整行长度字节数
  |-- int   rows, cols;    // 行、列数
  |-- int   height, width; // 矩阵高度、宽度,与rows、cols对应
  |-- union data;
      |-- uchar*  ptr;     // data pointer for an unsigned char matrix
      |-- short*  s;       // data pointer for a short matrix
      |-- int*    i;       // data pointer for an integer matrix
      |-- float*  fl;      // data pointer for a float matrix
      |-- double* db;      // data pointer for a double matrix
CvMatND                    // N-维矩阵
  |-- int   type;          // 元素类型 (uchar,short,int,float,double) 与标志
  |-- int   dims;          // 矩阵维数
  |-- union data;
  |   |-- uchar*  ptr;     // data pointer for an unsigned char matrix
  |   |-- short*  s;       // data pointer for a short matrix
  |   |-- int*    i;       // data pointer for an integer matrix
  |   |-- float*  fl;      // data pointer for a float matrix
  |   |-- double* db;      // data pointer for a double matrix
  |
  |-- struct dim[];        // 各维信息
      |-- size;            // 元素数目
      |-- step;            // 元素间距(字节为单位)
CvSparseMat // N-维稀疏矩阵

(2)    一般矩阵:

CvArr*     // 仅作为函数定义的参数使用, 
           // 表明函数可以接受不同类型的矩阵作为参数, 
           // 例如:IplImage*, CvMat* 甚至是 CvSeq*. 
           // 矩阵的类型通过矩阵头的前4个字节信息来确定

(3)    标量:

CvScalar
  |-- double val[4]; //4D 向量

初始化函数:

CvScalar s = cvScalar(double val0, double val1=0, double val2=0, double val3=0);
// Example: 
CvScalar s = cvScalar(20.0);
s.val[0]=10.0;

注意该初始化函数的函数名与对应的结构体名称几乎同名,差别仅在于函数名第一个字母是小写的,而结构体名第一个字母是大写的。它并不是一个 C++ 构造函数。(译注:类似的还有 cvMat 与 CvMat、cvPoint 与 CvPoint 等等)

3、其它结构类型
(1)    点:

CvPoint      p = cvPoint(int x, int y);
CvPoint2D32f p = cvPoint2D32f(float x, float y);
CvPoint3D32f p = cvPoint3D32f(float x, float y, float z);

E.g.:
p.x=5.0;
p.y=5.0;
(2)    矩形框大小(以像素为精度):

CvSize       r = cvSize(int width, int height);
CvSize2D32f  r = cvSize2D32f(float width, float height);

(3)    矩形框的偏置和大小:

CvRect       r = cvRect(int x, int y, int width, int height);

=================================================
四、图像处理
1、图像的内存分配与释放
(1)    分配内存给一幅新图像:

IplImage* cvCreateImage(CvSize size, int depth, int channels);

size:  cvSize(width,height);

depth: 像素深度: IPL_DEPTH_8U, IPL_DEPTH_8S, IPL_DEPTH_16U,
IPL_DEPTH_16S, IPL_DEPTH_32S, IPL_DEPTH_32F, IPL_DEPTH_64F

channels: 像素通道数. Can be 1, 2, 3 or 4.
各通道是交错排列的. 一幅彩色图像的数据排列格式如下:
b0 g0 r0 b1 g1 r1 …
示例:

// Allocate a 1-channel byte image
IplImage* img1=cvCreateImage(cvSize(640,480),IPL_DEPTH_8U,1); 

// Allocate a 3-channel float image
IplImage* img2=cvCreateImage(cvSize(640,480),IPL_DEPTH_32F,3);

(2)    释放图像:

IplImage* img=cvCreateImage(cvSize(640,480),IPL_DEPTH_8U,1); 
cvReleaseImage(&img);

(3)    复制图像:

IplImage* img1=cvCreateImage(cvSize(640,480),IPL_DEPTH_8U,1); 
IplImage* img2;
img2=cvCloneImage(img1);  // 注意通过cvCloneImage得到的图像
                      // 也要用 cvReleaseImage 释放,否则容易产生内存泄漏

(4)    设置/获取感兴趣区域ROI:

void  cvSetImageROI(IplImage* image, CvRect rect);
void  cvResetImageROI(IplImage* image);
vRect cvGetImageROI(const IplImage* image);

大多数OpenCV函数都支持 ROI.
(5)    设置/获取感兴趣通道COI:

void cvSetImageCOI(IplImage* image, int coi); // 0=all
int cvGetImageCOI(const IplImage* image);

大多数OpenCV函数不支持 COI.

2、图像读写
(1)    从文件中读入图像:

 IplImage* img=0; 
  img=cvLoadImage(fileName);
  if(!img) printf("Could not load image file: %s/n",fileName);

支持的图像格式: BMP, DIB, JPEG, JPG, JPE, PNG, PBM, PGM, PPM,
SR, RAS, TIFF, TIF
OpenCV默认将读入的图像强制转换为一幅三通道彩色图像. 不过可以按以下方法修改读入方式:

img=cvLoadImage(fileName,flag);

flag: >0 将读入的图像强制转换为一幅三通道彩色图像
=0 将读入的图像强制转换为一幅单通道灰度图像
<0 读入的图像通道数与所读入的文件相同.
(2)    保存图像:

 if(!cvSaveImage(outFileName,img)) printf("Could not save: %s/n", outFileName);

保存的图像格式由 outFileName 中的扩展名确定.

3、访问图像像素
(1)    假设你要访问第k通道、第i行、第j列的像素。
(2)    间接访问: (通用,但效率低,可访问任意格式的图像)
o    对于单通道字节型图像:

IplImage* img=cvCreateImage(cvSize(640,480),IPL_DEPTH_8U,1);
CvScalar s;
s=cvGet2D(img,i,j); // get the (i,j) pixel value
printf("intensity=%f/n",s.val[0]);
s.val[0]=111;
cvSet2D(img,i,j,s); // set the (i,j) pixel value

o    对于多通道字节型/浮点型图像:

IplImage* img=cvCreateImage(cvSize(640,480),IPL_DEPTH_32F,3);
CvScalar s;
s=cvGet2D(img,i,j); // get the (i,j) pixel value
printf("B=%f, G=%f, R=%f/n",s.val[0],s.val[1],s.val[2]);
s.val[0]=111;
s.val[1]=111;
s.val[2]=111;
cvSet2D(img,i,j,s); // set the (i,j) pixel value

(3)    直接访问: (效率高,但容易出错)
o    对于单通道字节型图像:

IplImage* img=cvCreateImage(cvSize(640,480),IPL_DEPTH_8U,1);
((uchar *)(img->imageData + i*img->widthStep))[j]=111;

o    对于多通道字节型图像:

IplImage* img=cvCreateImage(cvSize(640,480),IPL_DEPTH_8U,3);
((uchar *)(img->imageData + i*img->widthStep))[j*img->nChannels + 0]=111; // B
((uchar *)(img->imageData + i*img->widthStep))[j*img->nChannels + 1]=112; // G
((uchar *)(img->imageData + i*img->widthStep))[j*img->nChannels + 2]=113; // R

o    对于多通道浮点型图像:

IplImage* img=cvCreateImage(cvSize(640,480),IPL_DEPTH_32F,3);
((float *)(img->imageData + i*img->widthStep))[j*img->nChannels + 0]=111; // B
((float *)(img->imageData + i*img->widthStep))[j*img->nChannels + 1]=112; // G
((float *)(img->imageData + i*img->widthStep))[j*img->nChannels + 2]=113; // R

(4)    基于指针的直接访问: (简单高效)
o    对于单通道字节型图像:

IplImage* img  = cvCreateImage(cvSize(640,480),IPL_DEPTH_8U,1);
int height     = img->height;
int width      = img->width;
int step       = img->widthStep/sizeof(uchar);
uchar* data    = (uchar *)img->imageData;
data[i*step+j] = 111;

o    对于多通道字节型图像:

IplImage* img  = cvCreateImage(cvSize(640,480),IPL_DEPTH_8U,3);
int height     = img->height;
int width      = img->width;
int step       = img->widthStep/sizeof(uchar);
int channels   = img->nChannels;
uchar* data    = (uchar *)img->imageData;
data[i*step+j*channels+k] = 111;

o    对于多通道浮点型图像(假设图像数据采用4字节(32位)行对齐方式):

IplImage* img  = cvCreateImage(cvSize(640,480),IPL_DEPTH_32F,3);
int height     = img->height;
int width      = img->width;
int step       = img->widthStep/sizeof(float);
int channels   = img->nChannels;
float * data    = (float *)img->imageData;
data[i*step+j*channels+k] = 111;

(5)    基于 c++ wrapper 的直接访问: (更简单高效)
o    首先定义一个 c++ wrapper ‘Image’,然后基于Image定义不同类型的图像:

template<class T> class Image
{
  private:
  IplImage* imgp;
  public:
  Image(IplImage* img=0) {imgp=img;}
  ~Image(){imgp=0;}
  void operator=(IplImage* img) {imgp=img;}
  inline T* operator[](const int rowIndx) {
    return ((T *)(imgp->imageData + rowIndx*imgp->widthStep));}
}; 

typedef struct{
  unsigned char b,g,r;
} RgbPixel; 

typedef struct{
  float b,g,r;
} RgbPixelFloat; 

typedef Image<RgbPixel>       RgbImage;
typedef Image

转载注明来源:CV视觉网 » OpenCV 编程简介(矩阵/图像/视频的基本读写操作)

分享到:更多 ()
扫描二维码,给作者 打赏
pay_weixinpay_weixin

请选择你看完该文章的感受:

1不错 0超赞 0无聊 0扯淡 0不解 0路过

评论 3

评论前必须登录!