基于FPGA的低照度条件下EBAPS图像混合噪声去除算法

夏皓天, 钱芸生, 王逸伦, 郎怡政

夏皓天, 钱芸生, 王逸伦, 郎怡政. 基于FPGA的低照度条件下EBAPS图像混合噪声去除算法[J]. 应用光学, 2022, 43(6): 1075-1087. DOI: 10.5768/JAO202243.0604006
引用本文: 夏皓天, 钱芸生, 王逸伦, 郎怡政. 基于FPGA的低照度条件下EBAPS图像混合噪声去除算法[J]. 应用光学, 2022, 43(6): 1075-1087. DOI: 10.5768/JAO202243.0604006
XIA Haotian, QIAN Yunsheng, WANG Yilun, LANG Yizheng. Mixed noise removal algorithm of EBAPS image under low illumination condition based on FPGA[J]. Journal of Applied Optics, 2022, 43(6): 1075-1087. DOI: 10.5768/JAO202243.0604006
Citation: XIA Haotian, QIAN Yunsheng, WANG Yilun, LANG Yizheng. Mixed noise removal algorithm of EBAPS image under low illumination condition based on FPGA[J]. Journal of Applied Optics, 2022, 43(6): 1075-1087. DOI: 10.5768/JAO202243.0604006

基于FPGA的低照度条件下EBAPS图像混合噪声去除算法

基金项目: 国家自然科学基金“叶企孙”科学基金项目(U2141239)
详细信息
    作者简介:

    夏皓天(1998—),男,硕士研究生,主要从事光电信息探测、微光成像技术与微光图像处理研究。E-mail:xiahaotian0422@163.com

    通讯作者:

    钱芸生(1968—),男,教授,博导,主要从事光电成像器件、系统与相关测试技术研究。 E-mail:yshqian@njust.edu.cn

  • 中图分类号: TN206

Mixed noise removal algorithm of EBAPS image under low illumination condition based on FPGA

  • 摘要:

    为了解决单一的中值滤波和高斯滤波算法对低照度图像中同时存在的脉冲噪声和泊松噪声抑制效果不佳、边缘细节保护不足的问题,提出一种基于可编程逻辑门阵列(field programmable gate array,FPGA)的开关中值-高斯融合(open and close mix-median-Gaussian,OCMMG)滤波算法。首先,利用最小四方向差值检测每个像素点的异常程度,根据脉冲噪声判别阈值分配权重,进行第1步滤波处理;然后,利用四方向边缘检测算法提取图像边缘,根据设置的边缘置信度表征值进行第2步滤波处理;最后,用电子轰击有源像素传感器(electron bombarded active pixel sensor,EBAPS)在1×10−3 lx照度条件下采集的图像,基于FPGA对其进行实时图像处理。实验结果表明,FPGA处理结果与软件仿真处理结果相符。该算法相比于中值滤波和高斯滤波算法,峰值信噪比分别提高了3.23%和16.34%,结构相似性分别提高了14.66%和33.86%,边缘保持指数分别提高了0.49%和4.21%,能够有效去除EBAPS图像的混合噪声,并满足实时性要求。

    Abstract:

    In order to solve the problem that single median filtering and gaussian filtering algorithm is not effective in suppressing impulse noise and poisson noise simultaneously in low illumination image, and the edge detail protection is insufficient, an open and close mix-median-gaussian (OCMMG) filtering algorithm based on field programmable gate array (FPGA) was proposed. Firstly, the minimum four-direction difference was used to detect the anomaly degree of each pixel point, the weight was allocated according to the threshold of pulse noise discrimination, and the first step was filtering. Then, the four-direction edge detection algorithm was used to extract image edges, and the second step was filtered according to the set edge confidence characterization value. Finally, the images collected by electron bombarded active pixel sensor (EBAPS) under the condition of 1×10−3 lx illumination were processed by FPGA in real time. The experimental results show that the FPGA processing results are consistent with the software simulation processing results. Compared with the median filtering and gaussian filtering algorithm, the peak signal-to-noise ratio (PSNR) of the algorithm is improved by 3.23% and 16.34%, the structural similarity is improved by 14.66% and 33.86%, and the edge retention index is improved by 0.49% and 4.21%, respectively, which can effectively remove the mixed noise of EBAPS image and meet the real-time requirements.

  • 在雾、霾大气中悬浮着大量的微小颗粒, 这些微小颗粒具有非常强的散射效应, 使得成像系统获取的图像模糊不清, 成像效果严重降质[1-3]。因此, 研究雾、霾天气下清晰成像的方法, 具有十分重要的应用价值。偏振成像作为一种新兴的光学成像技术, 已经在光学遥感、军事侦察和医学诊断上得到了广泛应用。相对于传统光学成像, 偏振成像不仅可以获得目标的颜色和强度信息, 还可以获得环境和目标的偏振信息[4]。利用偏振信息可以对雾天图像进行重构, 实现图像清晰化处理。

    针对雾天图像模糊不清的问题, 国内外学者做了大量的研究工作, 主要包括两类:一类是非偏振的单幅图像去雾方法, 比较经典的有Tan和He的去雾方法。Tan[5]基于无雾图像的对比度比有雾图像对比度要高的现象, 通过最大化局部对比度, 实现了单幅图像的去雾。He[6]提出了一种基于暗通道先验的单幅图像去雾方法, 利用暗通道先验方法, 可以估计出大气传输图, 利用细化修补后的大气传输图可重构出目标图像。另一类是偏振去雾方法, Schechner[7-9]提出了基于差分成像的偏振去雾算法, 其认为大气光为部分偏振光, 而目标光为非偏振光。利用获取的同一场景下的偏振差分图像, 估算大气光偏振信息, 通过人工选取天空区域, 估计无穷远处大气光强, 最后利用雾天成像模型恢复出目标图像。非偏振去雾方法包括图像增强和图像复原两方面, 图像增强不考虑图像退化的机理, 只提高目标对比度, 但对目标细节的复原能力有限。图像复原通过建立大气散射模型, 对造成图像质量下降的影响因素进行估计, 并反演退化过程, 复原目标图像。但是, 该方法对模型参数的估计仅依据图像强度信息, 相关参数估计方法也存在局限性, 复原的目标图像容易出现噪声斑块。偏振去雾方法不仅可以获取图像的强度信息, 还可以获取偏振信息, 增加了去雾模型的信息维度。太阳光经大气散射, 形成部分偏振光; 不仅大气光具有偏振特性, 目标光也具有偏振特性。目标光的偏振态不仅与大气中微粒的散射作用有关, 还与目标本身材质, 表面粗糙度有关。因此, 大气光偏振特性和目标光偏振特性存在差异。针对目标光偏振特性和大气光偏振特性的差异, 提出了一种利用目标偏振信息和大气偏振信息的雾天图像重构方法。首先, 从光强图像中, 初步分离出大气光图像和目标光图像, 利用大气光图像和目标光图像, 解析大气光偏振态和目标光偏振态, 再根据偏振信息估计相关参数, 最终重构出目标图像。

    在雾、霾等天气条件下, 大气中悬浮着大量微小颗粒, 大气光和目标光在传播过程中, 会与大气中悬浮的微小颗粒接触产生散射作用。大气光与悬浮的微粒散射后变成部分偏振光, 大气光到达成像系统的偏振态与大气中微粒浓度、大小、成像距离有关。目标光的偏振态不仅与大气中微粒的散射作用有关, 还与目标本身材质, 表面粗糙度有关, 不同的目标到达成像系统的偏振态不同。因此, 成像系统探测到的偏振信息不仅包含了大气光的偏振信息, 还包含了目标光的偏振信息。但是, 应该考虑大气光偏振信息和目标光偏振信息存在的差异性。雾天偏振成像模型如图 1所示。

    图  1  雾天偏振成像模型
    Figure  1.  Imaging model in fog weather

    其数学表达式可描述为

    $$ I = D + A $$ (1)
    $$ {I_P} = {D_P} + {A_P} $$ (2)
    $$ {I_P} = IP $$ (3)

    式中:I表示成像系统获得的总光强; D表示目标光强; A为大气光强; IP表示成像系统获得的总偏振光强; DP表示目标偏振光; AP表示大气偏振光; DPAP存在差异。

    根据偏振度的定义:

    $$ {D_P} = D{P_D} $$ (4)
    $$ {A_P} = A{P_A} $$ (5)

    式中:P表示总光强偏振度; PD表示目标光偏振度; PA表示大气光偏振度。将(3)、(4)、(5)式代入(2)式可得

    $$ IP = D{P_D} + A{P_A} $$ (6)

    联立(1)式和(6)式, 在目标光图像和大气光图像中, 分别建立DPAP的解析式:

    $$ D = \frac{{I\left( {P - {P_A}} \right)}}{{{P_D} - {P_A}}} $$ (7)
    $$ A = \frac{{I\left( {P - {P_D}} \right)}}{{{P_A} - {P_D}}} $$ (8)

    根据大气散射模型[10-12]DA的数学表达式分别为

    $$ D = JT(x) $$ (9)
    $$ A = {A_\infty }(1 - T(x)) $$ (10)

    式中:J表示目标表面反射光光强, 即为目标图像; T(x)表示大气传输率; A为无穷远处大气光强。由(1)、(9)、(10)式, 消去大气传输率T(x), 可得到雾天成像模型的表达式为

    $$ J = \frac{D}{{1 - A/A\infty }} $$ (11)

    将(7)、(8)式代入雾天成像模型(11)可得雾天偏振图像重构模型的表达式

    $$ J = \frac{{I\left( {P - {P_A}} \right)}}{{{P_D} - {P_A} + I\left( {P - {P_D}} \right)/{A_\infty }}} $$ (12)

    文中提出的雾天偏振图像重构模型是在大气散射模型的基础上, 引入了目标光和大气光的偏振信息, 增加了模型的信息维度。在构建偏振去雾模型时, 考虑了彼此偏振信息的差异性, 分别在大气光图像和目标光图像中解析大气光偏振信息和目标光偏振信息。(12)式中, 总光强I和偏振度P可由偏振图像直接计算得出, 所以偏振图像重构模型中, 只要估算目标光偏振度PD, 大气光偏振度PA和无穷远处大气光强A, 即可重构出目标图像J

    估算大气光偏振度PA和目标光偏振度PD, 需要从获得的偏振图像中初步分离出大气光图像A和目标光图像D, 并分别在大气光图像和目标光图像中计算出大气光偏振度PA和目标光偏振度PD

    现有估算大气光的方法有暗原色先验[6]和中值滤波方式[13], 暗原色先验方法无法处理天空区域以及景物亮度和天空接近的区域; 中值滤波具有一定的滤波效果, 但是, 一定程度上会造成去雾后图像的边缘细节丢失。针对以上问题本文采用一种融合图像梯度信息的高斯滤波方法来估算大气光强和目标光强。

    高斯滤波(Gaussian blur, GB)是一种根据正态分布来分配权值的线性平滑滤波器。相对于均值滤波器和中值滤波器, 高斯滤波器引入了空间距离因子, 对滤波窗口内的像素计算权重, 越位于窗口外侧的像素权重越低, 其对待处理像素的影响就越小, 位于窗口内侧的像素与待处理像素更接近, 权重更高。高斯滤波数学表达式如下

    $$ {\omega _g}(x,y) = \frac{1}{{2{\rm{ \mathsf{ π} }}{\delta ^2}}}\exp \left( {\frac{{ - \left( {{x^2} + {y^2}} \right)}}{{2{\delta ^2}}}} \right) $$ (13)
    $$ GB\left( I \right) = \sum\limits_{x,y \in \mathit{\Omega }} {{\omega _g}} (x,y)I(x,y) $$ (14)

    式中:ωg是高斯模板即权重矩阵; xy表示周边像素相对于中心像素的相对坐标; δ表示模糊半径即权重矩阵的大小; I表示待滤波图像; Ω为开窗区域。

    由于高斯滤波只考虑了图像像素的空间距离, 没有考虑图像梯度信息, 因此高斯滤波实际上是一种低通滤波器, 会让图像低频部分通过, 滤除高频部分。对于图像梯度变化快的部分, 高斯滤波容易丢失图像细节, 造成图像边缘模糊。

    在高斯滤波进行权重分配时, 引入图像梯度信息即梯度相似度因子, 与空间距离因子相结合构成新的权重分配函数, 融合图像梯度信息的高斯滤波(GB′)的数学表达式如下

    $$ {d_g} = \sqrt {{{\left| {\frac{{{\partial _{I(x)}}}}{{{\partial _x}}} - \frac{{{\partial _{I(y)}}}}{{{\partial _x}}}} \right|}^2} + {{\left| {\frac{{{\partial _{I(x)}}}}{{{\partial _y}}} - \frac{{{\partial _{I(y)}}}}{{{\partial _y}}}} \right|}^2}} $$ (15)
    $$ {\omega _d}(x,y) = \exp \left( {\frac{{ - d_g^2}}{{2{\delta ^2}}}} \right) $$ (16)
    $$ G{B^\prime }(I) = \sum\limits_{x,y \in \mathit{\Omega }} {{\omega _d}} (x,y){\omega _g}(x,y)I(x,y) $$ (17)

    式中:dg表示xy之间的梯度距离; ωdxy之间的梯度相似性。

    采用上述滤波函数对偏振图像I0I60I120分别进行差分滤波处理, 得到大气光偏振图像A0A60A120, 滤波公式如下:

    $$ \left\{ {\begin{array}{*{20}{l}} {{I^\prime } = G{B^\prime }(I) - G{B^\prime }\left( {I - G{B^\prime }(I)} \right)}\\ {A = \max \left( {\min \left( {a{I^\prime },I} \right),0} \right)} \end{array}} \right. $$ (18)

    获得A0A60A120后, 根据(1)式可得出目标光偏振图像D0D60D120:

    $$ \left\{ {\begin{array}{*{20}{l}} {{D_0} = {I_0} - {A_0}}\\ {{D_{60}} = {I_{60}} - {A_{60}}}\\ {{D_{120}} = {I_{120}} - {A_{120}}} \end{array}} \right. $$ (19)

    由此, 可根据Stokes矢量公式在大气光图像A内计算大气光偏振度PA

    $$ \left\{ {\begin{array}{*{20}{l}} {{I_A} = \frac{2}{3}\left( {{A_0} + {A_{60}} + {A_{120}}} \right)}\\ {{Q_A} = \frac{2}{3}\left( {2{A_0} - {A_{60}} - {A_{120}}} \right)}\\ {{U_A} = \frac{2}{{\sqrt 3 }}\left( {{A_{60}} - {A_{120}}} \right)} \end{array}} \right. $$ (20)
    $$ {P_A} = \frac{{\sqrt {Q_A^2 + U_A^2} }}{{{I_A}}} $$ (21)

    同理, 也可在目标光图像D内计算大气光偏振度PD

    现有去雾方法中, 无穷远处大气光强通常认为是雾天图像中最亮的像素值或者人工选取图像中天空区域某一点的强度值, 作为整幅图像无穷远处的大气光强值, 这种方法均存在一定的偶然性。选取图像中最亮的像素值作为无穷远处大气光强容易受到噪声点和白色建筑物等目标的干扰, 使估计的无穷远处大气光强值偏高, 而选取图像中天空区域某一点的强度值作为无穷远处大气光强的方法必须要求包含天空区域。

    文中无穷远处大气光强A的估算在大气光图像A内进行, 在大气光图像A空间内估算无穷远处大气光强, 可有效避免大气光图像D内白色建筑物等高亮度目标的干扰。对大气光图像A取图像块Ω, 对图像块Ω内的有效像素点计算标准差σ。通过3σ法则阈值分割, 求Z(x, y)二值化矩阵:

    $$ \begin{array}{l} \mathit{\boldsymbol{Z}}(x,y) = \\ \left\{ {\begin{array}{*{20}{c}} 1&{\left| {A(x,y) - \frac{1}{{\left| \mathit{\Omega } \right|}}\left. {\sum\limits_{x,y \in \mathit{\Omega }} A (x,y)} \right|} \right| \le 3 \times \sigma }\\ 0&{\left| {A(x,y) - \frac{1}{{\left| \mathit{\Omega } \right|}}\left. {\sum\limits_{x,y \in \mathit{\Omega }} A (x,y)} \right|} \right| > 3 \times \sigma } \end{array}} \right. \end{array} $$ (22)

    式中:Z(x, y)为经过3σ法则阈值分割的二值化矩阵; A(x, y)表示Ω内坐标为(x, y)的像素点; Ω为3×3的图像块; σ表示图像块Ω内像素点的标准差。

    归零化图像块Ω内异常像素点的灰度值:

    $$ {A^\prime }(x,y) = Z(x,y) \times \mathop A\limits_{x,y \in \mathit{\Omega }} (x,y) $$ (23)

    得到的A′(x, y)为去除噪声点和高亮度目标像素点的图像块Ω, 在对图像块Ω内的像素作最大值滤波, 得到图像块Ω内亮度最高的像素值作为无穷远处大气光A的估计值:

    $$ {A_\infty } = \mathop {\max }\limits_{x,y \in \mathit{\Omega }} \left( {{A^\prime }\left( {x,y} \right)} \right) $$ (24)

    为了分析估算结果受噪声的影响, 与现有亮原色方法[11]进行定量对比分析。本文方法和亮原色方法估算无穷远处大气光强结果如图 2所示。

    图  2  无穷远处大气光强估算结果
    Figure  2.  Estimation of atmospheric light intensity at infinity

    图 2中(a)、(b)、(c)为原始偏振图像, (d)为亮原色方法估算无穷远处大气光图像, (e)为本文方法估算无穷远处大气光图像。原始偏振图像中建筑物表面白色反射光会对无穷远处大气光图像的估算产生干扰。亮原色方法估算结果受目标干扰明显, 图像中目标轮廓突出, 建筑物表面反射光在亮原色方法中直接判别为无穷远处大气光强。采用3σ法则阈值分割结合最大值滤波的方法, 在大气光图像A空间内估算无穷远处大气光强。首先, 在大气光图像A空间内估算无穷远处大气光强, 可有效避免白色建筑物等高亮度目标的干扰, 通过3σ法则阈值分割可进一步剔除图像中的异常噪声点, 降低残留噪声对无穷远处大气光估算结果的影响。最后, 通过最大值滤波方法得到每一像素点处的无穷远处大气光强值。

    为了定量分析本文方法估算结果, 引入平均梯度和边缘强度作为定量评价标准。图 2中无穷远处大气光图像的定量评价结果如表 1所示。

    表  1  实验结果定量评价
    Table  1.  Quantitative evaluation of experimental results
    实验方法 平均梯度 边缘强度
    亮原色方法 4.826 7 11.375 2
    本文方法 0.976 4 1.267 4
    下载: 导出CSV 
    | 显示表格

    平均梯度和边缘强度分别反映图像对比度和图像层次, 值越大表明无穷远处大气光的估算结果受目标和噪声的影响越大。通过定量对比分析可知, 本文方法估算结果的平均梯度和边缘强度远远低于亮原色方法估算结果, 说明本文方法可有效避免白色建筑物等高亮度目标的干扰, 降低图像噪声对估算结果的影响。

    采用已经标定的三通道偏振测量系统[14-15]搭建实验平台, 开展雾天偏振图像采集实验。三通道偏振测量系统通过棱镜分光的方法, 可以同时获得一个场景下的0°、60°、120°的雾天偏振图像。系统工作波段为380 nm ~1 000 nm, 分辨率为1 392×1 040像素。实验结果如图 3所示, 图中烟囱距离相机3.7 km, 其中图 3(a)(b)(c)分别为三通道偏振测量系统采集的0°、60°、120°雾天偏振图像。图 3(d)(e)是大气光图像A和目标光图像D图 3(f)(g)为大气光偏振度图像PA和目标光偏振度图像PD, 图 3(h)为重构后的目标图像J。通过实验结果可以看出, 去雾后目标图像J中楼房、烟囱等目标变得清晰可见, 图像边缘细节明显, 且图像中没有出现明显的图像噪声。

    图  3  雾天重构实验结果
    Figure  3.  Reconstruction experimental results under fog environments

    图 4为大气光偏振度图像PA和目标光偏振度图像PD的灰度直方图分布, 不难发现, 目标光偏振度图像灰度动态范围比大气光偏振度图像灰度动态范围宽, 表明目标光和大气光同样具有偏振特性, 都为部分偏振光, 且大气光偏振信息和目标光偏振信息存在差异。

    图  4  PAPD图像直方图
    Figure  4.  PA & PD histograms

    为了进一步验证本文方法在不同天气下的适用性, 针对雾霾、雨、雪等不同天气开展了大量的实测实验。其中, 图 5是分别与Tan[5]、He[6]、Schechner[7-9]的重构效果比较。图 5(a1)~(a3)为原始图像, 其中, (a1)雾霾天PM2.5为200, 能见度1 000 m; (a2)雨天降雨量20 mm/24 h, 能见度800 m; (a3)雪天降雪量2.5 mm/24 h, 能见度500 m。图 5(b1)~(b3)为Tan的重构效果, 图 5(c1)~(c3)为He的重构效果, 图 5(d1)~(d3)为Schechner的重构效果, 图 5(e1)~(e3)是本文方法重构效果。实验结果表明本文方法能够从原始图像中较好地恢复出目标信息, 并能有效降低重构后目标图像出现的图像细节丢失和噪声斑块, 通过雾霾、雨、雪等不同天气下的实验说明本方法具有较好的环境适用性。

    图  5  重构实验对比
    Figure  5.  Contrast of reconstruction experiments

    文中引入信息熵、平均梯度、灰度标准差和边缘强度4种统计特性参数作为定量评价标准。图 5中各组实验图像的定量评价结果如表 2所示。通过数据对比可知, 本文方法整体上重构后图像的信息熵提升约40%, 灰度标准差提升了约90%, 平均梯度和边缘强度提高了3倍。数据表明本文方法在雾霾、雨天、雪天情况下均有较好的图像重构效果, 且相对于以上3种重构方法, 重构图像质量有所提升。

    表  2  实验结果定量评价
    Table  2.  Quantitative evaluation of experimental results
    实验天气 图像 信息熵 平均梯度 灰度标准差 边缘强度
    雾霾天气 原始图像 5.154 7 1.357 2 21.369 1 4.186 2
    Tan 6.407 6 3.113 2 38.384 0 8.158 9
    He 6.923 3 4.881 2 40.008 1 10.923 0
    Schechener 7.046 6 3.418 6 34.992 6 11.254 9
    本方法 7.366 4 4.910 4 41.054 0 13.368 2
    雨雾天气 原始图像 6.248 7 2.963 4 23.593 0 6.827 3
    Tan 6.996 9 7.552 3 26.251 4 8.943 6
    He 9.352 2 14.600 4 29.234 0 18.518 2
    Schechener 8.024 8 12.966 6 40.700 6 16.163 4
    本方法 10.057 7 15.962 4 45.915 5 18.951 3
    大雪天气 原始图像 4.956 2 0.839 1 8.642 9 1.835 7
    Tan 6.277 6 3.495 8 10.316 1 5.842 6
    He 7.285 2 3.915 8 13.343 2 8.951 7
    Schechener 5.972 6 2.084 8 8.762 2 4.698 2
    本方法 8.866 3 5.538 0 14.344 3 9.536 8
    下载: 导出CSV 
    | 显示表格

    为了定量分析去雾后图像失真对比, 采用结构相似度(SSIM)图像质量评价方法[16], SSIM是一种常用的图像质量评价方法, 来源于人类视觉系统能够高度自适应地提取场景中的结构信息, 通过比较图像结构信息的改变而近似的反映图像失真, 结构相似度值越大, 图像失真度越小。

    利用偏振光学模拟实验舱[17]模拟大气雾天环境, 在偏振光学模拟实验舱内放置黑白棋盘格作为场景目标, 用能见度仪测得的光透过率值表征烟雾浓度。首先采集一张无雾图像作为SSIM评价方法的无失真图像, 其次在偏振光学模拟实验舱内模拟不同浓度的烟雾, 获取不同浓度烟雾下的有雾图像。然后用以上4种去雾算法分别处理有雾图像, 得到的目标图像作为待测试图像, 利用SSIM方法分析比较目标图像的失真程度。

    图 6为室内实验获取的有雾和无雾棋盘格图像, 其中图 6(a)为无雾图像作为无失真图像, 图 6(b)~(f)分别为不同浓度的有雾图像。图 7为目标图像的SSIM评价结果, SSIM指标越高, 表明目标图像越接近于无失真图像。随着玻璃缸内烟雾浓度增加, 去雾后目标图像质量降低, 4种去雾方法的曲线均呈下降趋势。从整体上看, 本文方法重构的目标图像SSIM指标一直高于0.6, 能够较好的重构出目标图像, 降低图像失真, 且随着烟雾浓度的增加, 本文方法的SSIM曲线下降最慢。

    图  6  无雾和有雾棋盘格图像
    Figure  6.  Fogless and foggy checker board image
    图  7  结构相似性(SSIM)分析去雾图像质量
    Figure  7.  Image quality analysis for defogging in structure similarity (SSIM)

    提出了一种利用目标和大气偏振信息的雾天图像重构方法。考虑目标光偏振信息和大气光偏振信息的差异性, 首先, 从光强图像中分离出目标光图像和大气光图像, 并分别从目标光图像和大气光图像中解析目标光偏振信息和大气光偏振信息, 构建偏振去雾模型; 在高斯滤波中融合图像梯度信息代替常用的中值滤波方法, 从偏振图像中, 滤波估算出大气光强和目标光强, 使滤波后的图像更平滑, 保留了图像边缘细节; 采用3σ法则阈值分割方法, 滤除大气光图像中亮度异常的像素点, 然后在大气光图像中估算无穷远处大气光强, 避免了图像中噪声点和白色建筑物等高亮度目标的干扰; 最后, 重构出目标图像。在不同天气环境下开展外场实验, 结果表明, 该方法能够较好地在雾霾、雨、雪天气下重构出目标图像, 并能有效降低图像细节丢失、图像噪声和图像失真, 具有较好的环境适用性。

  • 图  1   系统总体框架设计

    Figure  1.   Design diagram of overall framework for system

    图  2   算法模块流程图

    Figure  2.   Flow chart of algorithm module

    图  3   3×3模板生成图

    Figure  3.   Diagram of 3×3 template generation

    图  4   3×3矩阵映射图

    Figure  4.   Diagram of 3×3 matrix mapping

    图  5   最小四方向差值流程图

    Figure  5.   Flow chart of minimum four-direction differences

    图  6   快速中值滤波模块流程图

    Figure  6.   Flow chart of fast median filter module

    图  7   边缘检测模块流程图

    Figure  7.   Flow chart of edge detection module

    图  8   高斯滤波模板

    Figure  8.   Diagram of gaussian filter template

    图  9   仿真测试图

    Figure  9.   Diagram of simulation test

    图  10   照度1的去噪结果对比图

    Figure  10.   Comparison diagram of denoising results of illuminance 1

    图  11   照度2的去噪结果对比图

    Figure  11.   Comparison diagram of denoising results of illuminance 2

    图  12   照度3的去噪结果对比图

    Figure  12.   Comparison diagram of denoising results of illuminance 3

    图  13   硬件设备及其内部结构图

    Figure  13.   Hardware device and its internal structure diagram

    图  14   高压电源与照度计

    Figure  14.   High-voltage power supply and illuminometer

    图  15   静态靶标实验结果对比图

    Figure  15.   Comparison of experimental results of static targets

    图  16   静态SF实验结果对比图

    Figure  16.   Comparison of experimental results of static SF graphics

    图  17   夜晚外部环境实验结果对比图

    Figure  17.   Comparison of experimental results of external environment at night

    图  18   运动目标实验结果对比图

    Figure  18.   Comparison of experimental results of moving targets

    图  19   仿真软件图像处理运行时间

    Figure  19.   Image processing running time of simulation software

    图  20   FPGA图像处理运行时间

    Figure  20.   Image processing running time of FPGA

    表  1   照度1的测试图去噪后评价结果

    Table  1   Evaluation results of test map after denoising of illuminance 1

    滤波算法LenaGoldhillPepper
    PSNRSSIMEPIPSNRSSIMEPIPSNRSSIMEPI
    噪声图21.499 40.294 20.906 421.385 50.412 40.911 921.361 20.322 50.924 4
    中值滤波31.966 50.514 30.990 629.479 40.588 50.984 831.131 60.490 20.991 3
    高斯滤波28.930 40.460 00.980 927.960 80.570 80.978 328.330 80.452 90.983 4
    文献[24]29.537 00.450 80.983 828.520 80.588 30.981 328.875 00.467 00.985 6
    文献[25]28.824 40.519 30.986 927.398 70.616 40.983 127.562 00.494 50.987 0
    本文算法33.006 80.583 20.993 631.176 60.685 40.989 732.237 30.560 40.993 3
    下载: 导出CSV

    表  2   照度2的测试图去噪后评价结果

    Table  2   Evaluation results of test map after denoising of illuminance 2

    滤波算法LenaGoldhillPepper
    PSNRSSIMEPIPSNRSSIMEPIPSNRSSIMEPI
    噪声图21.131 30.164 50.796 321.633 60.225 30.752 021.848 40.177 30.787 9
    中值滤波28.558 60.401 00.984 033.145 60.479 30.974 033.880 70.378 80.981 7
    高斯滤波27.195 80.322 80.955 729.416 40.407 50.940 129.759 30.317 60.953 2
    文献[24]27.253 90.304 60.966 930.225 40.409 20.951 430.282 30.307 10.959 8
    文献[25]28.669 00.409 10.979 431.267 90.501 60.969 130.906 60.377 30.973 3
    本文算法28.737 50.442 10.987 234.417 50.567 10.980 634.791 60.431 00.985 2
    下载: 导出CSV

    表  3   照度3的测试图去噪后评价结果

    Table  3   Evaluation results of test map after denoising of illuminance 3

    滤波算法LenaGoldhillPepper
    PSNRSSIMEPIPSNRSSIMEPIPSNRSSIMEPI
    噪声图21.644 90.126 40.608 421.617 50.194 00.674 521.549 40.138 90.653 9
    中值滤波35.779 90.345 50.968 834.227 30.451 80.968 535.414 40.342 80.974 0
    高斯滤波29.757 10.260 30.888 729.529 60.365 90.913 529.631 20.261 90.908 9
    文献[24]31.664 70.257 50.925 731.170 10.374 80.940 031.350 60.267 50.937 8
    文献[25]34.312 50.354 40.962 232.972 50.482 40.964 633.657 70.350 50.967 3
    本文算法36.776 00.387 90.975 235.399 40.531 80.975 936.527 80.388 70.979 9
    下载: 导出CSV

    表  4   仿真软件与FPGA算法客观评价一致性检验

    Table  4   Consistency test of objective evaluation of simulation software and FPGA algorithm

    参数PSNRSSIMEPI
    仿真软件FPGA误差/%仿真软件FPGA误差/%仿真软件FPGA误差/%
    靶标1×10−1 lx32.606 732.384 30.680.604 60.647 76.650.958 30.993 43.53
    靶标1×10−2 lx30.476 230.384 30.300.529 70.577 08.200.931 50.955 02.46
    靶标1×10−3 lx34.291 634.168 50.360.527 50.564 66.570.930 20.938 10.84
    SF 1×10−1 lx33.197 833.047 70.450.563 60.605 36.890.982 90.995 51.27
    SF 1×10−2 lx30.779 730.604 90.570.535 40.554 93.510.907 80.968 66.28
    SF 1×10−3 lx35.385 035.668 30.790.505 60.561 19.890.933 70.960 12.75
    夜晚外部环境35.004 335.368 41.030.617 80.635 32.750.989 20.997 00.78
    下载: 导出CSV
  • [1] 王彦斌, 张德锋, 周旋风, 等. CCD光敏面上规则点阵的产生机理[J]. 光学精密工程,2021,29(6):1242-1250.

    WANG Yanbin, ZHANG Defeng, ZHOU Xuanfeng, et al. Formation mechanism of regular lattices on photosensitive surface of CCD[J]. Optics and Precision Engineering,2021,29(6):1242-1250.

    [2]

    BOLDUC E, FACCIO D, LEACH J. Acquisition of multiple photon pairs with an EMCCD camera[J]. Journal of Optics,2017,19(5):054006. doi: 10.1088/2040-8986/aa52d8

    [3]

    MORAN S E, ULICH B L, ELKINS W P, et al. Intensified CCD (ICCD) dynamic range and noise performance[J]. Proceedings of SPIE - the International Society for Optical Engineering,1997,3173:430-457.

    [4]

    COATES C G, DE NVIR D J, MCHALE N G, et al. Optimizing low-light microscopy with back-illuminated electron multiplying charge-coupled device: enhanced sensitivity, speed, and resolution[J]. Journal of Biomedical Optics,2004,9(6):1244. doi: 10.1117/1.1805559

    [5] 蔡宁静, 曾祥忠, 王波. EBCMOS相机盲元检测方法的研究[J]. 应用光学,2021,42(1):137-142. doi: 10.5768/JAO202142.0103007

    CAI Ningjing, ZENG Xiangzhong, WANG Bo. Research on blind element detection method of EBCMOS camera[J]. Journal of Applied Optics,2021,42(1):137-142. doi: 10.5768/JAO202142.0103007

    [6]

    AEBI V W, JAMES B J. Electron bombarded active pixel sensor: US20140267641 A1 [P]. 2003-05-02.

    [7]

    GEORGE M. Electron bombarded back-illuminated CCD sensors for lowlight level imaging applications[J]. SPIE,1995,2415:211-235. doi: 10.1117/12.206518

    [8] 唐小东. EBAPS电子轰击性能测试技术研究[D]. 南京: 南京理工大学, 2019.

    TANG Xiaodong. Research on EBAPS electron bombardment performance test technology [D]. Nanjing: Nanjing University of Science and Technology, 2019.

    [9]

    KURATA H, OTSUGA K, KOTABE A, et al. Random telegraph signal in flash memory: its impact on scaling of multilevel flash memory beyond the 90-nm node[J]. IEEE Journal of Solid-State Circuits,2007,42(6):1362-1369. doi: 10.1109/JSSC.2007.897158

    [10]

    MAJID A, MAHMOOD M T, CHOI T S. A novel noise-free pixels based impulse noise filtering [C]// IEEE International Conference on Image Processing. USA: IEEE, 2010:125-128.

    [11] 康宇, 赵冬青, 上官鹏, 等. 基于FPGA的图像边缘保护高斯滤波算法实现[J]. 电子设计工程,2021,29(6):94-98. doi: 10.14022/j.issn1674-6236.2021.06.020

    KANG Yu, ZHAO Dongqing, SHANGGUAN Peng, et al. Realizaton of image edge protection Gauss filter algorithm based on FPGA[J]. International Electronic Elements,2021,29(6):94-98. doi: 10.14022/j.issn1674-6236.2021.06.020

    [12]

    ANSCOMBE F J. The transformation of poisson, binomial and negative-binomial data[J]. Biometrika,1948,35:246-254. doi: 10.1093/biomet/35.3-4.246

    [13]

    FRYZLEWICZ P, NASON G P. A Haar-Fisz algorithm for poisson intensity estimation[J]. Journal of Computational and Graphical Statistics,2004,13(3):621-638. doi: 10.1198/106186004X2697

    [14] 许玉婷, 吴志芳, 王强, 等. 基于剪切波变换的辐射图像泊松噪声降噪技术研究[J]. 原子能科学技术,2022,56(3):577-584.

    XU Yuting, WU Zhifang, WANG Qiang, et al. Denoise technology for radiation image with poisson noise based on shearlet transform[J]. Atomic Energy Science and Technology,2022,56(3):577-584.

    [15] 王光新, 王正明, 谢美华, 等. 泊松噪声模糊图像的边缘保持变分复原算法[J]. 光电子·激光,2007,18(3):359-363. doi: 10.3321/j.issn:1005-0086.2007.03.028

    WANG Guangxin, WANG Zhengming, XIE Meihua, et al. An edge preserving variational restoration method of blurred image corrupted by poisson noise[J]. Journal of Optoelectronics·Laser,2007,18(3):359-363. doi: 10.3321/j.issn:1005-0086.2007.03.028

    [16] 陈明轩. 数字图像中随机值脉冲噪声的滤除算法研究[D]. 北京: 北京信息科技大学, 2013: 4.

    CHEN Mingxuan. Research on filtering algorithm of random value impulse noise in digital image[D]. Beijing: Beijing Information Science and Technology University, 2013: 4.

    [17] 邹瑜. 一种易于FPGA实现的椒盐噪声滤除算法[J]. 电子测试,2021(20):40-41. doi: 10.3969/j.issn.1000-8519.2021.20.015

    ZOU Yu. A salt and pepper noise filtering algorithm easy to implement on FPGA[J]. Electronic Test,2021(20):40-41. doi: 10.3969/j.issn.1000-8519.2021.20.015

    [18] 左振鹏. 数字图像自适应去噪算法的FPGA实现[J]. 电子技术应用,2012,38(11):14-15. doi: 10.3969/j.issn.0258-7998.2012.11.006

    ZUO Zhenpeng. A new adaptive switching filter for digital image on FPGA[J]. Application of Electronic Technology,2012,38(11):14-15. doi: 10.3969/j.issn.0258-7998.2012.11.006

    [19] 王丽红, 胡长宏, 范鲜红, 等. 自适应中值滤波器优化及其FPGA实现[J]. 哈尔滨理工大学学报,2021,26(5):68-75. doi: 10.15938/j.jhust.2021.05.009

    WANG Lihong, HU Changhong, FAN Xianhong, et al. Optimization of adaptive median filter and FPGA implementation[J]. Journal of Harbin University of Science and Technology,2021,26(5):68-75. doi: 10.15938/j.jhust.2021.05.009

    [20]

    LIU Y H, GAO K, NI G Q. An improved trilateral filter for Gaussian and impulse noise removal [C]// International Conference on Industrial Mechatronics & Automation. USA: IEEE, 2010:14566891.

    [21]

    XU Guangyu, TAN Jianqing, ZHONG Jinqin. An improved trilateral filter for image denoising using an effective impulse detector [C]//Proceedings of the 4th International Congress on Image and Signal Processing. USA: IEEE, 2011: 90-94.

    [22]

    JUNG S W. Enhancement of image and depth map using adaptive joint trilateral filter[J]. IEEE Transactions on Circuits and Systems for Video Technology,2013,23(2):258-269. doi: 10.1109/TCSVT.2012.2203734

    [23] 丁继生, 卫伟, 杨依忠, 等. 一种基于FPGA的开关中值滤波算法研究[J]. 合肥工业大学学报(自然科学版),2016,39(4):490-493.

    DING Jisheng, WEI Wei, YANG Yizhong, et al. Research on switching median filter algorithm based on FPGA[J]. Journal of Hefei University of Technology:Nature Science Edition,2016,39(4):490-493.

    [24] 陈伟, 党榕. 混合噪声图像的去噪算法研究及FPGA实现[J]. 电子测量技术,2021,44(16):135-140.

    CHEN Wei, DANG Rong. Research on denoising algorithm of mixed noise image and FPGA implementation[J]. Electronic Measurement Technology,2021,44(16):135-140.

    [25] 涂友钢. 单兵夜视眼镜视频信号处理技术研究[D]. 南京: 南京理工大学, 2019.

    TU Yougang. Research on video signal processing technology of soldier night vision glasses [D]. Nanjing: Nanjing University of Science and Technology, 2019.

    [26] 褚翔, 祝连庆, 娄小平, 等. 基于改进Sobel算子的动态自动调焦算法研究[J]. 应用光学,2017,38(2):237-242.

    CHU Xiang, ZHU Lianqing, LOU Xiaoping, et al. Dynamic auto focus algorithm based on improved Sobel operator[J]. Journal of Applied Optics,2017,38(2):237-242.

    [27] 宁永慧, 刘辉, 赵庆磊, 等. 大面阵高帧频CMOS成像电子学系统设计[J]. 光学精密工程,2019,27(5):1167-1177. doi: 10.3788/OPE.20192705.1167

    NING Yonghui, LIU Hui, ZHAO Qinglei, et al. High-frame frequency imaging system of large area CMOS image sensor[J]. Optics and Precision Engineering,2019,27(5):1167-1177. doi: 10.3788/OPE.20192705.1167

    [28]

    KELE O, YLMAZ M A, TEKALP A M, et al. On the computation of PSNR for a set of images or video [C]// 2021 Picture Coding Symposium (PCS). USA: IEEE, 2021: 9477470.

    [29] 韩昊男, 钱锋, 吕建威, 等. 图像去雾方法质量评价[J]. 光学精密工程,2022,20(6):721-733.

    HAN Haonan, QIAN Feng, LYU Jianwei. Image dehazing method quality assessment[J]. Optics and Precision Engineer,2022,20(6):721-733.

    [30]

    JUNKE L, XIN J. EPI-neighborhood distribution based light field depth estimation [C]//IEEE International Conference on Acoustics, Speech and Signal Processing. USA: IEEE, 2020: 2003-2007.

  • 期刊类型引用(5)

    1. 宋培娟,高连平,任宇. 基于三维激光扫描的建筑模型可视化制作研究. 激光与红外. 2022(03): 349-354 . 百度学术
    2. 刘泉新,林世治,吴光强,陈丹,吴坤华,陈生,张亚. 大视场光电测量系统广角相机标定方法研究. 光学技术. 2022(04): 452-458 . 百度学术
    3. 张培培,王宁宁,谢国坤. 小波变换和深度学习的激光偏振图像重构研究. 激光杂志. 2022(10): 87-91 . 百度学术
    4. 石磊,马丽茵. 基于稀疏度自适应的视觉图像三维清晰重构. 计算机仿真. 2021(03): 139-142 . 百度学术
    5. 宋闯,姜鹏,段磊,孙剑峰,范之国. 新型光电探测技术在精确制导武器上的应用研究(特约). 红外与激光工程. 2020(06): 218-227 . 百度学术

    其他类型引用(6)

图(20)  /  表(4)
计量
  • 文章访问数:  400
  • HTML全文浏览量:  195
  • PDF下载量:  83
  • 被引次数: 11
出版历程
  • 收稿日期:  2022-07-31
  • 修回日期:  2022-09-23
  • 网络出版日期:  2022-10-10
  • 刊出日期:  2022-11-14

目录

/

返回文章
返回