立体视觉测量系统标定误差补偿

崔恩坤, 滕艳青, 刘佳伟

崔恩坤, 滕艳青, 刘佳伟. 立体视觉测量系统标定误差补偿[J]. 应用光学, 2020, 41(6): 1174-1180. DOI: 10.5768/JAO202041.0601006
引用本文: 崔恩坤, 滕艳青, 刘佳伟. 立体视觉测量系统标定误差补偿[J]. 应用光学, 2020, 41(6): 1174-1180. DOI: 10.5768/JAO202041.0601006
CUI Enkun, TENG Yanqing, LIU Jiawei. Calibration error compensation technique of stereoscopic vision measurement system[J]. Journal of Applied Optics, 2020, 41(6): 1174-1180. DOI: 10.5768/JAO202041.0601006
Citation: CUI Enkun, TENG Yanqing, LIU Jiawei. Calibration error compensation technique of stereoscopic vision measurement system[J]. Journal of Applied Optics, 2020, 41(6): 1174-1180. DOI: 10.5768/JAO202041.0601006

立体视觉测量系统标定误差补偿

基金项目: 国家“973”计划(2013CB733103)
详细信息
    作者简介:

    崔恩坤(1988−),男,博士,算法工程师,主要从事机器视觉及信号处理的研究。E-mail:cuiek08@163.com

  • 中图分类号: TN911.73;TP391.4

Calibration error compensation technique of stereoscopic vision measurement system

  • 摘要: 双目视觉测量系统利用三角测量法原理进行三维测量,其结构特性决定了测量误差随测量距离的增加而增大。针对测量误差的分布规律,该文提出基于局部视场的双目视觉测量系统优化方法。利用外在结构建立测量坐标系,减小标定和测量过程信息非一致性引入的系统误差;利用相机参数之间的耦合作用补偿系统固有参数标定误差并建立查找表,建立关于标定参数的虚拟映射。模拟实验最大误差小于0.03 mm,系统实验误差小于0.3%,实验表明优化后系统主要测量误差来源于探测器离散化引入的随机误差,双目视觉测量系统达到理论测量精度。
    Abstract: The principle of the triangulation is used to conduct the 3D measurement by binocular vision measurement system, and its structural characteristics determine that the measurement error increases with the increase of the measurement distance. Aiming at the distribution law of the measurement error, the optimization method of the binocular vision measurement system based on the local FOV was proposed. The measurement coordinate system was established by using the external structure to reduce the systematic errors introduced by the inconsistence of the calibration and measurement process information. The coupling effect between camera parameters was used to compensate the calibrated error of the system inherent parameter, and a look-up table was established to realize the virtual mapping of the calibration parameters. The results show that the maximum error is less than 0.03 mm in simulation experiment, and the measurement error is less than 0.3% in systematic experiment. After the optimization, the main measurement error comes from the random error introduced by the detector discretization, and the binocular vision measurement system achieves the theoretical measurement accuracy.
  • 近几年,随着工业自动化的发展,立体视觉系统在工业测量领域得到了广泛应用。双目视觉测量系统结构简单并能够实现非接触3D重构,是一种重要的三维测量手段。双目视觉直接模拟人眼视觉结构感知三维世界,提取物体的三维信息[1]。高精度参数标定是保证视觉测量系统测量精度的重要前提,制约参数标定精度的主要因素有特征点提取误差、探测器量化和图像噪声等[2-6],代表性的处理方法是利用光束法平差进行优化,但是依然无法完全消除系统误差[7-12]

    光学系统相机装调误差一方面导致相机畸变的复杂性[13],另一方面破坏光学系统的光轴一致性。前者导致外参数标定结果恶化,后者则可能在靶标外参中引入空间位置变化量,与相机模型理论相悖[14-15]。另外,相机模型内外参数之间存在的耦合作用也可能导致标定得到的物像对应关系与真实的对应关系不符。在高精度标定算法中通常会考虑抑制参数耦合,但是对耦合作用的抑制效果有限[15]。相机模型参数耦合将导致多组结果求平均的方法效果欠佳。由以上分析可以看出,在高精度测量中有必要对标定误差进行补偿,如GENOVESE K提出一种不基于相机模型的优化方法[16]对标定误差和畸变进行局部补偿。

    在标定过程中,相机的外参数作为辅助量参与标定,并与系统固有参数共同作用达到对相机的最佳拟合。在测量时,通常又将相机坐标系设置为测量坐标系,该处理方式也可能引入系统误差。鉴于以上考虑,本文提出一种双目系统优化方法,在标定之后进行一次系统优化,在相机坐标系中将物点做位置变换,在新的位置上满足标定参数建立的双目视觉系统物象关系,从而对标定误差补偿,在局部进行优化建立优化查找表[16]。本文对优化方法进行了详尽的阐述,并进行了实验分析。

    双目视觉系统由2个相机构成,定义$({R_s},{T_s})$为双目视觉系统的结构参数,${R_s}$${T_s}$分别表示由左相机坐标系转换到右相机坐标系的旋转矩阵和平移向量。假设物坐标为${M_W}$,对应在左右相机成像为${m_l}$${m_r}$,如果将左相机坐标系设置为测量坐标系,那么双目视觉测量系统模型表示如下

    $$\left\{{\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {{\lambda _1}{{\widetilde m}_l} = {A_l}\left( {\begin{array}{*{20}{c}} I&0 \end{array}} \right){{\widetilde M}_W}}&{} \end{array}} \\ {{\lambda _2}{{\widetilde m}_r} = {A_r}\left( {\begin{array}{*{20}{c}} {{R_s}}&{{T_s}} \end{array}} \right){{\widetilde M}_W}} \end{array}} \right.$$ (1)

    式中:I为单位矩阵;${\widetilde M_w}$ 表示物点齐次坐标;${\widetilde m_l}$${\widetilde m_r}$分别表示左右图像的齐次坐标;λ1λ2 为缩放因子;$({R_s},{T_s})$可以由左右相机的外参数表示

    $${R_s} = {R_r}R_l^{ - 1},{T_s} = {T_r} - {R_r}R_l^{ - 1}{T_l}$$ (2)

    式中:${R_l}$${R_r}$分别表示左右相机的旋转矩阵;${T_l}$${T_r}$分别表示左右相机的平移向量,双目视觉系统标定指对系统固有参数估计,即$({A_l},{A_r})$$({R_s},{T_s})$,相机外参数$({R_l},{T_l})$$({R_r},{T_r})$作为辅助量参与标定过程。

    当结构参数存在标定误差时,结构参数表征的相机投影中心和像面的位置姿态与相机的真实投影中心和像面之间存在偏差。假设结构参数存在误差,记为$(R_s',T_s')$,该误差只导致左相机的位置姿态发生变化,右相机的位置不变,如图1所示。

    图  1  参数(Rs, Ts)的标定误差补偿示意图
    Figure  1.  Schematic of calibration error compensation for (Rs, Ts)

    图中LR分别表示左右相机真实的位置,平面π位于P1,其上的点集Miwi=1,2…N)在左右相机上的真实图像为mlmr$(R_s',T_s')$表征的左相机位于${L'}$处,因此相当于利用${L'}$R两个位置的相机进行三维重构,表示如下

    $$\left\{{\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {{s_l}{{\widetilde m}_l} = {A_{{L'}}}{{\widetilde M}_{iw}}}&{} \end{array}}&{} \end{array}} \\ {{s_r}{{\widetilde m}_r} = {A_r}[R_s',T_s']{{\widetilde M}_{iw}}} \end{array}} \right.$$ (3)

    式中:${A_{{L'}}}$表示左相机在${L'}$处成像,左相机的图像信息和投影过程不匹配。WANG Zhenzhou [17]证明一个平面上的点$ {M}\left({{x}}_{{i}},{{y}}_{{i}},{{{{\textit{z}}}}}_{{i}}\right) $分别与2个投影中心相连得到2组不同的光束,被2个平面截取得到2幅图像$M_1'(x_i^1,y_i^1,{{\textit{z}}}_i^1)$ ($i = 1,2 \cdots N$)和${M}_{2}'\left({x}_{i}^{2}{y}_{i}^{2}{{{\textit{z}}}}_{i}^{2}:{i}={1,2} \cdots {N}\right)$$ {M}_{1}' $$M_2'$之间存在转换矩阵A,表示如下

    $$M_1'(x_i^1,y_i^1,{{\textit{z}}}_i^1) = AM_2'(x_i^2,y_i^2,{{\textit{z}}}_i^2)$$ (4)

    如果左相机位于${L'}$处,Miw经左相机成像为$m_l'$,由(4)式可以知道$m_l'$${m_l}$可以相互转换。假设转换矩阵为Am,则$m_l'$${m_l}$之间的转换表示如下

    $$\widetilde m_l' = {A_m}{\widetilde m_l}$$ (5)

    将(5)式带入(3)式,三维重构模型修正为如下形式

    $$\left\{{\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {{s_l}\widetilde m_l' = {A_{{L'}}}{{\widetilde M}_{iw}}}&{} \end{array}}&{} \end{array}} \\ {{s_r}{{\widetilde m}_r} = {A_r}[R_s',T_s']{{\widetilde M}_{iw}}} \end{array}} \right.$$ (6)

    转换关系式(6)是在像空间进行的。由图1可以看出来,如果左相机位于${L'}$处,对平面π进行位置转移,可以找到一个位置使得移动后的平面π在左相机的像与${m_l}$相同。假设平面π位于P2处满足上述要求,则左相机位于L${L'}$两个位置的成像可以分别表示为(7)式和(8)式

    $$s\widetilde m = {A_{{L'}}}[\Delta R,\Delta T]{\widetilde M_{iw}}$$ (7)
    $$s\widetilde m = {A_l}{\widetilde M_{iw}}$$ (8)

    式中:${A_L}$${A_L'}$本身的数值相同;$(\Delta R,\Delta T)$是位置变换量,表示平面π由P1转换到P2。联立(5)式和(7)式可以得到如下关系式

    $$\widetilde m_l' = {A_m}{A_{{L'}}}[\Delta R,\Delta T]{\widetilde M_w}$$ (9)

    ${[M]_{4 \times 4}} = {A_m}{A_{{L'}}}[\Delta R,\Delta T]$,将其转换成以下形式

    $${[M]_{4 \times 4}} = {A_{{L'}}}[\Delta {R'},\Delta {T'}]$$ (10)

    式中:$(\Delta {R'},\Delta {T'})$即为补偿矩阵,由此可以将像空间转换Am变为左相机的物空间位置变化,因此可以用位置变换$(\Delta {R'},\Delta {T'})$补偿$({R_s},{T_s})$的误差。

    共线几何约束关系[18]表明物、投影中心和匹配像对可以转换到同一条直线上,假设通过双目系统得到匹配像对,利用共线关系可以计算出物点的坐标${M_w}(\overline x ,\overline y ,\overline z )$

    $$\left\{ {\begin{array}{*{20}{c}} {\overline x = {f_x}({R_l},{T_l},({R_s},{T_s}),{m_l},{m_r},{A_l},{A_r})} \\ {\overline y = {f_y}({R_l},{T_l},({R_s},{T_s}),{m_l},{m_r},{A_l},{A_r})} \\ {\overline {\textit{z}} = {f_{\textit{z}}}({R_l},{T_l},({R_s},{T_s}),{m_l},{m_r},{A_l},{A_r})} \end{array}} \right..$$ (11)

    式中:$({A_l},{A_r})$$({R_s},{T_s})$为系统固有参数,可以通过双目视觉系统标定得到。由(10)式可知,$ \left(\Delta {\mathrm{R}}', \mathrm{ }\mathrm{ }\Delta {\mathrm{T}}'\right) $补偿矩阵$(\Delta {R'},\Delta {T'})$可作为左相机外参数$({R_l},{T_l})$的一部分,因此可以以$({R_l},{T_l})$为优化变量,以Mw为参考数据,建立代价方程

    $$J = \min {\sum\limits_{i = 1}^N {\left\| {{M_w}({{\overline x }_i},{{\overline y }_i},{{\overline {\textit{z}} }_i}) - {M_w}({x_i},{y_i},{{\textit{z}}_i})} \right\|} ^2}$$ (12)

    式中:i表示第i个点。当J最小时,即可得到$({R_l}, {T_l})$的最优解,该问题是非线性最小二乘问题,可以用Levenberg-Marquardt 算法迭代优化,以标定结果为初始值进行迭代优化。

    由文献[8]可以知道,物体和对应的左相机中的图像可以用单映性矩阵表示如下

    $$\lambda {\widetilde {_lm}_l} = {H_l}{\widetilde M_W}\begin{array}{*{20}{c}} ,{{H_l} = {A_l}[{R_l},{T_l}]} \end{array}$$ (13)

    式中:${H_l}$为左相机单映性矩阵。由于左相机外参数中的旋转矩阵${R_l}$元素数值较小,容易引入舍入误差,在本文中选择以${H_l}$代替代价方程(12)中的$({R_l}, {T_l})$作为迭代变量,${H_l}$中主要包含12个参量,在优化过程中至少需要12个对应匹配像对。在WANG Zhenzhou的证明过程中,模板$M({x_i},{y_i},{{\textit{z}}_i})$是一个平面,(5)~(10)式的转换在平面内成立,因此优化只对平面中的点完全补偿。在本文中选择在局部视场进行优化,利用不同视场得到的优化矩阵建立查找表。在查找表的边缘处,为了保证优化矩阵的连续性,采取邻域重叠的方式优化。在局部视场中可以将残余畸变大小近似为一个常值,因此基于局部优化建立查找表的方法对减小残余畸变同样有效。

    在仿真实验中不考虑探测器像元离散造成的特征点提取误差。设置相机的焦距为12 mm,结构参数为Rs=[0°, 0°, 0°],Ts=[180, 0 0] mm。设置焦距误差为0.05 mm,主点误差为0.001 mm,结构参数误差为ΔRs=[−0.046°,−0.036°, 0.012°],ΔTs =[0.3, 0.35, 0.35] mm。模拟物点均匀分布,相邻点之间的最小距离为40 mm。在不考虑相机视场限制的情况下,将距双目视觉系统为800 mm~1 400 mm的测量空间分割成16× 2个局部视场,在32个局部视场进行优化。

    实验结果如图2图4所示。优化前,zxy坐标平均测量误差最大值分别大于7 mm、3 mm和3 mm,可以看出测量误差具有明显的空间分布规律;优化后,平均测量误差减小,z方向的误差大于其他2个方向的,最大误差小于0.03 mm。三坐标测量误差的视场依赖性得以消除。优化后单应性矩阵元素的变化量如图3所示,hij表示单应性矩阵第ith行中第jth列的元素,x坐标表示不同局部视场,局部视场1、3、5和7的中心z=960 mm;局部视场2、4、6和8的中心z=1200 mm。由图可以看出单应性矩阵元素的变化与局部视场的分布有关,图3(d)中平移变量差值较大。噪声对单应性矩阵的优化的影响如图4所示,说明本文方法对噪声的鲁棒性较强。

    图  2  优化前后的测量误差分布
    Figure  2.  Measurement errors distribution before and after optimization
    图  3  单应性矩阵中元素变化差值
    Figure  3.  Difference curves of element changes in homography matrix
    图  4  不同的噪声水平对本文优化方法的影响
    Figure  4.  Effects of different noise levels on proposed optimization method

    在系统实验中,实验装置如图5(a)所示,双目视觉系统由2个工业相机组成(外侧的2个相机),分辨率为2 560 像元 × 2 160像元,像元大小为6.5 μm。在本实验中针对一个局部区域优化,如图5(b)所示,将一个高精度靶标安置于6自由度转台上,调整靶标平面与转台的运动轴垂直,转台只沿单轴平移。记录转台的初始位置,根据此位置设置测量坐标系。移动转台,每隔固定距离采集一组图像,共采集10次图像,利用前5次采集图像进行优化计算,并根据优化结果对后5次采集图像进行三维测量。实验结果如图6所示,图6中(a)和(b)分别表示中心在(−400, −400, 1 000)mm 和(400, 0, 1 000)mm的局部视场(200×200×200)mm3优化的结果。由图可以看出优化后的10次采集图像测量精度都有很大提高,并且前5次数据和后5次数据的测量精度相同。图7表示本文方法和文献[16]的算法对比结果,本文方法精度更高。图8表示随机选择的一个平面及优化前后的重构平面,优化前重构平面偏离原平面位置,说明存在系统误差,优化后重构平面内点在真实位置附近随机波动,测量误差主要来源于匹配像对提取引入的随机误差。

    图  5  试验装置
    Figure  5.  Experimental installation
    图  6  优化前后精度比较
    Figure  6.  Accuracy comparison before and after optimization
    图  7  不同方法的精度比较
    Figure  7.  Accuracy comparison of different methods
    图  8  重构平面
    Figure  8.  Comparative results of reconstruction plane

    本文分析了制约双目视觉测量系统精度的主要因素,提出基于查找表的双目系统标定误差补偿优化方法, 建立物像之间的虚拟映射关系。首先理论推导证明了利用相机外参数补偿双目视觉系统固有参数标定误差的可行性,接着进行了实验分析。实验结果表明本文的优化方法能够在全视场减小系统误差,在距双目视觉系统垂直距离为800 mm~1 400 mm 的范围内,最大测量误差小于0.03 mm。相对不基于成像模型的优化方法具有明显的优越性。本文优化方法不仅提高了双目视觉系统的测量精度,而且减小了测量精度对系统真实参数的依赖性。

  • 图  1   参数(Rs, Ts)的标定误差补偿示意图

    Figure  1.   Schematic of calibration error compensation for (Rs, Ts)

    图  2   优化前后的测量误差分布

    Figure  2.   Measurement errors distribution before and after optimization

    图  3   单应性矩阵中元素变化差值

    Figure  3.   Difference curves of element changes in homography matrix

    图  4   不同的噪声水平对本文优化方法的影响

    Figure  4.   Effects of different noise levels on proposed optimization method

    图  5   试验装置

    Figure  5.   Experimental installation

    图  6   优化前后精度比较

    Figure  6.   Accuracy comparison before and after optimization

    图  7   不同方法的精度比较

    Figure  7.   Accuracy comparison of different methods

    图  8   重构平面

    Figure  8.   Comparative results of reconstruction plane

  • [1]

    ZHU Shiping, GAO Yang. Noncontact 3-D coordinate measurement of cross-cutting feature points on the surface of a large-scale workpiece based on the machine vision method[J]. IEEE Trans. Instrum. Meas,2010,59(7):1874-1887. doi: 10.1109/TIM.2009.2030875

    [2] 张一豪, 孙冬梅, 沈玉成, 等. 双目视觉测量系统特征点提取与匹配技术研究[J]. 应用光学,2016,37(6):866-871.

    ZHANG Yihao, SUN Dongmei, SHEN Yucheng, et al. Feature points extraction and matching technology of binocular vision measurement system[J]. Journal of Applied Optics,2016,37(6):866-871.

    [3]

    WENG J Y, COHEN P, HERNIOU M. Camera calibration with distortion models and accuracy evaluation[J]. IEEE Trans. Pattern Anal. Mach. Intell,1992,14(10):965-980. doi: 10.1109/34.159901

    [4]

    SHAHRAKI M N, HAALA N. Introducing free-function camera calibration model for central-projection and omni-directional lenses[J]. SPIE 2015: 9630.

    [5] 耿楷真, 高治华. 单摄像机单投影仪结构光三维测量系统标定方法[J]. 应用光学,2018,39(2):225-229.

    GENG Kaizhen, GUO Zhihai. Calibration method for structured light 3D measurement system having single camera and single projector[J]. Journal of Applied Optics,2018,39(2):225-229.

    [6]

    SOPHI A, GIRARD P, THIBAULT S, et al. Influence of camera calibration conditions on the accuracy of 3D reconstruction[J]. Opt. Express,2016,24(3):2678-2686. doi: 10.1364/OE.24.002678

    [7]

    JIA ZHenyuan, YANG Jinghao, LIU Wei, et al. Improved camera calibration method based on perpendicularity compensation for binocular stereo vision measurement system[J]. Opt. Express,2015,23(12):15205-15223. doi: 10.1364/OE.23.015205

    [8]

    CUI Yi, ZHOU Fuqiang, WANG Yexin, et al. Precise calibration of binocular vision system used for vision measurement[J]. Opt. Express,2014,22(8):9134–9149.

    [9] 倪章松, 顾艺, 柳庆林, 等. 大视场双目立体视觉柔性标定[J]. 光学精密工程,2017,25(7):1883-1889.

    NI Zhangsong, GU Yi, LIU Qinglin, et al. Flexible calibration method for binocular stereo vision in large field of view[J]. Optics and Precision Engineering,2017,25(7):1883-1889.

    [10] 支健辉, 董新民. 双目系统标定的外界影响因素分析[J]. 应用光学,2014,35(2):286-291.

    ZHI Jianhui, DONG Xinmin. Analysis of external influence factors in camera calibration[J]. Journal of Applied Optics,2014,35(2):286-291.

    [11]

    JORGE B, HELDER A, ANIBAL D A. Iterative multistep explicit camera calibration[J]. IEEE Transactions on Robotics and Automation,1999,15(5):897-917. doi: 10.1109/70.795794

    [12]

    CAPRILE B, TORREE V. Using vanishing points for camera calibration[J]. International Journal of Computer Vision,1990,4:127-140. doi: 10.1007/BF00127813

    [13]

    VIALA C R, JOSE A, SALMERON S. Lens distortion models evaluation[J]. Appl. Opt,2010,49(30):5914-5928. doi: 10.1364/AO.49.005914

    [14]

    LEE H, DALTON G B, TOSH I A J, et al. Computer-guided alignment III: description of inter-element alignment effect in circular-pupil optical systems[J]. Opt. Express,2008,26(15):10992-11006.

    [15] 赵振庆. 大视距非合作目标视觉位姿测量系统关键技术研究[D]. 哈尔滨: 哈尔滨工业大学, 2016: 50-69.

    ZHAO Zhenqing. Research on key technologies of visual pose measurement system with large vision range for non-cooperative target[D]. Heilongjiang: Harbin Institute of Technology, 2016: 50-69.

    [16]

    GENOVESE K, CASALETTO L, RAYAS J A, et al. Stereo-digital image correlation (DIC) measurements with a single camera using abiprism[J]. Optics and Lasers in Engineering,2013,51:278-285. doi: 10.1016/j.optlaseng.2012.10.001

    [17]

    WANG Zhenzhou. Removal of noise and radial lens distortion during calibration of computer vision systems[J]. Opt. Express,2015,23(9):11341-11356. doi: 10.1364/OE.23.011341

    [18]

    CUI Eenkun, WANG Yanjie, ZHANG Tao, et al. Easy conductive calibration method for binocular vision system based on collinear image transfomation[J]. Opt Eng,2017,56(10):103106.

  • 期刊类型引用(7)

    1. 乔贵方,杜宝安,张颖,田荣佳,刘娣,刘汉忠. 基于POE模型的工业机器人运动学参数二次辨识方法研究. 农业机械学报. 2024(01): 419-425 . 百度学术
    2. 陈建云,张奇,姬煜琦,王子,李佳林,李汝鹏,李鹏程,田威. 基于双目视觉的6D位姿测量误差补偿方法. 测试技术学报. 2024(06): 601-609+626 . 百度学术
    3. 田常青. LED式三维表面测量传感器在汽车底盘几何参数测量中的应用研究. 汽车工程师. 2024(12): 21-27 . 百度学术
    4. 康轶譞,刘宇,王亚伟,周立君,郭城,王怡恬. 基于DETR的道路环境下双目测量系统. 应用光学. 2023(04): 786-791 . 本站查看
    5. 王震,许恒硕,廉哲. 映射关系约束下双目视觉测量误差调整仿真. 计算机仿真. 2022(04): 189-192+289 . 百度学术
    6. 吕天宇,邹英永. 基于视触融合的正畸弓丝弯制. 新型工业化. 2022(05): 219-222 . 百度学术
    7. 江滔,马泳,黄珺,王贺松,樊凡. 基于赋权连接图的增量式运动恢复结构算法. 应用光学. 2022(05): 921-928+1014 . 本站查看

    其他类型引用(10)

图(9)
计量
  • 文章访问数:  2211
  • HTML全文浏览量:  844
  • PDF下载量:  77
  • 被引次数: 17
出版历程
  • 收稿日期:  2020-01-15
  • 修回日期:  2020-05-10
  • 网络出版日期:  2020-09-07
  • 刊出日期:  2020-11-14

目录

/

返回文章
返回