数字视频处理第7章三维视频处理ppt课件.ppt

《数字视频处理第7章三维视频处理ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第7章三维视频处理三维视频编码就对三维视频信号进行处理，即在普通二维视频图像信息的基础上增加深度信息，以更逼真地描述现实世界。7.1立体感觉大量的立体视觉实验表明，人在观看空间物体时不论单眼或双眼都可以产生立体视觉，只是用单眼观看的辨别精度比用双眼时差，主体感较弱。因此，立体视觉有两大类即:单眼立体信息和双眼立体信息。7.1.1单眼立体信息1)调节2)单眼运动视差3)视网膜像的相对大小4)线性透视5)视野6)光和阴影7)空气透视8)重叠7.1.2双眼立体信息用双眼观看空间景物时，形成立体视觉的因素

2、称为双眼立体信息。双眼立体信息是人眼立体视觉的重要因素，包括双眼视差和辐辏。1．双眼视差人眼在观看三维空间物体的时候，会产生立体感，也就是说人们不仅能够感觉到空间物体之间的距离，也能够感觉到空间物体与自己之间的距离。此外，即使是左、右两眼都能看到的前平面和上平面，在左、右眼视网膜上所成的像也稍有差异。图7-1双目视差形成立体感觉2．辐辏人用双眼观看物体时，如果物体所成的像不是落在左、右两眼视网膜的对应点上，那么所看到的是二重像（也称复像）。使这种二重像成为单像，在生理光学中称为融合。融合时，眼球必

3、须作旋转运动。眼球的这种旋转运动被称为辐辏。图7-2双眼辐辏的产生图7-3深度灵敏度与视距关系对三维视频编码而言，深度感觉是一个非常重要的信息，人类视觉系统的深度感觉特性是设计三维视频采集和显示系统的依据。7.2立体成像原理上一节讨论了视差的定义和人类视觉系统对三维视频图像的一些感觉特性，本节讨论视差和深度的关系，这是三维视频编码的理论基础之一。7.2.1平行摄像机配置(a)三维视图(b)X-Z截面视图图7-4平行摄像机配置图7-5平行配置时摄像机空间坐标与成像平面坐标关系视差矢量为在世界坐标系内

4、坐标为7.2.2会聚摄像机配置(a)三维视图(b)X-Z截面视图图7-6会聚摄像机配置CI、Cr、CW的坐标满足7.3视差估计所谓视差估计，就是对右图中的每个像素，找到左图中与它“同源”的像素（以左图预测右图）。7.3.1视差场的规律1．偏振约束2．空间相关性3．时间相关性4．水平方向性约束7.3.2视差估计的方法用于视差估计主要有基于块的方法和基于网格的方法，二者既可以应用于基于变换的三维视频编码，加以处理后也可以应用于基于对象的三维视频编码。1.基于块的视差估计基于块的视差估计首先把右图划分为

5、适当大小的块，然后根据某种误差准则，在左图的搜索范围内为右图的每一个块寻找最优匹配的块，得到块的视差矢量。误差准则均方误差准则MSE=[xl(i,j)-xr(i,j)]2修改空间局部平滑特性：同一物体，其各个部分的视差应当是接近的SMSE=[xl(i,j)-xr(i,j)]2+aη

6、d-dη

7、2η为当前块的一次因果邻域，共包含3块aη为加权系数，d，dη分别为当前块和邻域块的视差矢量∑∑∑∑∑图7-9一次因果邻域块块大小的确定固定块的视察估计算法(FSBM):块大小为8×8或16×16比较好可变块

8、尺寸匹配算法(VSBM):平坦区以大的块为单位进行视差估计，在非平坦区以小的块进行视差估计分级块匹配算法(HBM):首先用大的块对整幅图像进行视差估计，然后检查每个块，将其归入估计成功和估计不成功两类；估计不成功的块则减小块的大小，再一次进行视差估计，直到所有块均估计成功或者已经到达设定的最小块尺寸为止。混合块匹配算法VSBM匹配效果好，但是计算复杂度较大，而且也不能保证各个大小不定的块可以不重合的覆盖整个图像。混合块匹配算法结合固定尺寸和自适应尺寸算法各自的优点。步骤：（1）将图像划分为16×1

9、6的宏块，对每个宏块计算其最佳的视差矢量，作为块中每一个像素的视差矢量。（2）对每一个宏块，根据e=[fr(x,y)-fl(d,y)]计算其视差补偿预测图像的误差e，式中d是该宏块的视差矢量。∑（3）取所有宏块平均误差的一半作为阈值T，根据0,e≤T1,e＞T为每一个宏块做标记sign。（4）对上述标记为1的所有宏块，以其近似中心点（16×16宏块无中心点）建立一个3×3的基本窗口，按照窗口自适应扩张策略，以该窗口所在宏块为边界，扩张得到最后的矩形窗口。（5）对上述得到的矩形窗口重新进行匹配，得到

10、的视差矢量作为该窗口中所有像素的视差矢量。处于当前宏块而不在矩形窗口内的像素，仍然使用步骤（1）中的视差矢量。（6）对矩形窗口的形状大小和视差矢量、其他像素的视差矢量等进行编码，获得码流。（7）重复步骤（4）~（6），直到所有宏块处理完毕。sign=2.基于网格的视差估计基于网格的视差估计首先给出网格节点（亦称特征点）的视差矢量，然后通过插值的方法获得其他像素点的视差矢量。网格的自适应确定和搜寻网格匹配节点是基于网格的视差估计的关键。网格的确定Delaunay三角形网格（DT）对于