MA Lili, LIU Jiangping. Research on abnormal data detection of optical fiber communication network based on data mining[J]. Journal of Applied Optics, 2020, 41(6): 1305-1310. DOI: 10.5768/JAO202041.0608003
Citation: MA Lili, LIU Jiangping. Research on abnormal data detection of optical fiber communication network based on data mining[J]. Journal of Applied Optics, 2020, 41(6): 1305-1310. DOI: 10.5768/JAO202041.0608003

Research on abnormal data detection of optical fiber communication network based on data mining

More Information
  • Received Date: April 07, 2020
  • Revised Date: May 05, 2020
  • Available Online: September 07, 2020
  • In order to improve the recognition ability of abnormal data in optical fiber communication networks, an abnormal data detection algorithm based on the optimization of entropy objective function was proposed. Firstly, the attributes of the data samples were classified, and the radius of the neighborhood interval was selected based on the abnormal data feature density index. Secondly, the clustering degree of the big data with high-order statistics was iterated and the optimization of the feature extraction parameters was completed. Finally, the optimal value of the entropy objective function was calculated according to the sample attribute probability, and it was used to complete the abnormal data detection. The experiment tested 1 000 sets of communication data. The results show that the average detection accuracy of this algorithm is about 95.7%, and its data fusion rate, detection time-consuming and average false detection rate are better than that of the two traditional methods. It can be seen that this algorithm has the advantages of high accuracy, fast convergence and low false detection rate, which has the certain application value.
  • [1]
    吕艳霞, 王翠荣, 王聪, 等. 大数据环境下的不确定数据流在线分类算法[J]. 东北大学学报:自然科学版,2016,37(9):1245-1249.

    LYU Yanxia, WANG Cuirong, WANG Cong, et al. Online classification algorithm for uncertain data stream in big data[J]. Journal of Northeastern University: Natural Science,2016,37(9):1245-1249.
    [2]
    顾营迎, 王立, 华宝成, 等. 一种面向空间非合作目标位姿测量应用的三维点云滤波算法[J]. 应用光学,2019,40(2):210-216.

    GU Yingying, WANG Li, HUA Baocheng, et al. 3D point cloud filtering method for pose measurement application of space non-cooperative targets[J]. Journal of Applied Optics,2019,40(2):210-216.
    [3]
    贾琦. 光纤线路故障的定位和监测[J]. 中国新通信,2017,19(1):74. doi: 10.3969/j.issn.1673-4866.2017.01.054

    JIA Qi. Fault location and monitoring of optical fiber lines[J]. China New Telecommunications,2017,19(1):74. doi: 10.3969/j.issn.1673-4866.2017.01.054
    [4]
    张泰江, 李勇军, 赵尚弘, 等. OPNET和STK联合的空间光骨干网络仿真设计[J]. 应用光学,2019,40(5):901-909. doi: 10.5768/JAO201940.0508001

    ZHANG Taijiang, LI Yongjun, ZHAO Shanghong, et al. Design of space optical backbone network simulation platform based on OPNET and STK[J]. Journal of Applied Optics,2019,40(5):901-909. doi: 10.5768/JAO201940.0508001
    [5]
    陈阳, 赵尚弘, 王翔, 等. 指数威布湍流模型下高空OFDM-FSO系统误码率分析[J]. 激光与红外,2018,48(7):832-837. doi: 10.3969/j.issn.1001-5078.2018.07.006

    CHEN Yang, ZHAO Shanghong, WANG Xiang, et al. BER analysis of high-altitude OFDM-FSO modulation system under exponentiated Weibull atmospheric turbulence model[J]. Laser & Infrared,2018,48(7):832-837. doi: 10.3969/j.issn.1001-5078.2018.07.006
    [6]
    CHEN Y, LI L J. Very fast decision tree classification algorithm based on red-black tree for data stream with continuous attributes[J]. Journal of Nanjing University of Posts and Telecommunications: Natural Science Edition,2017,37(2):86- 90.
    [7]
    赵太飞, 王文科, 刘龙. WDM光网络中一种优先共享通路保护算法[J]. 激光技术,2012,36(3):408-412. doi: 10.3969/j.issn.1001-3806.2012.03.032

    ZHAO Taifei, WANG Wenke, LIU Long. A preferential shared path protection algorithm for WDM optical network[J]. Laser Technology,2012,36(3):408-412. doi: 10.3969/j.issn.1001-3806.2012.03.032
    [8]
    杨景明, 侯宇浩, 孙浩, 等. 采用数量级阈值与二维信息排序策略的NSGA-Ⅱ-DE算法[J]. 控制与决策,2016,31(9):1577-1584.

    YANG Jingming, HOU Yuhao, SUN Hao, et al. Modified NSGA-Ⅱ-DE with two-dimensional information ordering strategy and magnitude threshold[J]. Control and Decision,2016,31(9):1577-1584.
    [9]
    GUO H P, LIU H B, WU C G, et al. Logistic discrimination based on G-mean and F-measure for imbalanced problem[J]. Journal of Intelligent & Fuzzy Systems,2016,31(3):1155-1166. doi: 10.3233/ifs-162150
    [10]
    HUANG X, WANG Z, LI Y X, et al. Design of fuzzy state feedback controller for robust stabilization of uncertain fractional-order chaotic systems[J]. Journal of the Franklin Institute,2014,351(12):5480-5493. doi: 10.1016/j.jfranklin.2014.09.023
    [11]
    刘贺, 王涛. 光纤通信局域网断点故障检测方法研究[J]. 现代电子技术,2017,40(16):174-17.

    LIU He, WANG Tao. Research on breakpoint fault detection method of optical fiber communication LAN[J]. Modern Electronics Technique,2017,40(16):174-17.
    [12]
    关晓颖, 陈果, 林桐. 特征选择的多准则融合差分遗传算法及其应用[J]. 航空学报,2016,37(11):3455-3465.

    GUAN Xiaoying, CHEN Guo, LIN Tong. Feature selection method based on differential evolution and genetic algorithm with multi-criteria evaluation and its applications[J]. Acta Aeronautica et Astronautica Sinica,2016,37(11):3455-3465.
    [13]
    马宗梅, 张睿萍. 大数据背景的光纤通信流量异常辨识研究[J]. 激光杂志,2019,40(7):75-78.

    MA Zongmei, ZHANG Ruiping. Traffic anomaly identification of optical fiber communication based on big data background[J]. Laser Journal,2019,40(7):75-78.
    [14]
    刘学君, 袁碧贤, 卓思超, 等. 基于MSP430的多模光纤短距离数采通信系统[J]. 电子设计工程,2017,25(6):96-99.

    LIU Xuejun, YUAN Bixian, ZHUO Sichao, et al. Multimode optical fiber short distance data acquisition communication system based on MSP430[J]. Electronic Design Engineering,2017,25(6):96-99.
    [15]
    陈俊达, 王天枢, 张欣梦, 等. 自由空间宽谱部分相干光通信系统[J]. 应用光学,2019,40(1):157-161.

    CHEN Junda, WANG Tianshu, ZHANG Xinmeng, et al. Free space optical communication system based on wide-spectrum partially coherent laser[J]. Journal of Applied Optics,2019,40(1):157-161.
    [16]
    琚春华, 邹江波. 基于信息熵差异性度量的数据流增量集成分类算法[J]. 电信科学,2015,31(2):92-102.

    JU Chunhua, ZOU Jiangbo. An incremental classification algorithm for data stream based on information entropy diversity measure[J]. Telecommunications Science,2015,31(2):92-102.
  • Cited by

    Periodical cited type(68)

    1. 甘莹,萧展辉,梁置铭,柯婷. 数据缺失约束下电力通信网全链路异常二分递归分割检测. 自动化技术与应用. 2025(03): 105-109 .
    2. 钱升起,陈智雨,陈芳,孙雨潇,李子凡,邓春雪,牟霄寒,朱彦源,张儒依. 基于数据驱动的电力光纤通信网脆弱节点动态挖掘. 电力信息与通信技术. 2024(02): 47-53 .
    3. 伍均玺,林峰,高红云. 基于改进深度学习的主动式通信网络入侵行为自适应识别算法. 微型电脑应用. 2024(04): 9-12 .
    4. 刘永立,翟伟芳,冯娟. 基于聚类分析提取特征的光通信系统异常数据检测. 激光杂志. 2024(04): 182-185 .
    5. 江忠涛,肖达,卢贤玲. 物联网下激光传感器节点最优通信线路选择. 激光杂志. 2024(09): 103-107 .
    6. 王永强,李子龙,王杜鑫,张驰俊,林婷. 基于数据挖掘的光纤通信网络异常数据检测. 自动化技术与应用. 2024(11): 111-114 .
    7. 何君,王文,陈侃,何成胜,滕易. 基于Snort的网络链路数据篡改自主防御系统. 太赫兹科学与电子信息学报. 2024(11): 1296-1303 .
    8. 王蕊. 基于深度神经网络的多模态数据分类与识别技术研究. 中国宽带. 2024(06): 61-63 .
    9. 赵伟,王文娟. 基于深度信念网络的光通信网络数据异常识别研究. 激光杂志. 2023(01): 174-178 .
    10. 牟小令. 光纤通信网络中节点故障定位方法研究. 激光杂志. 2023(02): 143-148 .
    11. 崔雪英,项敏敏. 基于光频域反射技术的光纤传感网络性能分析方法. 激光杂志. 2023(02): 164-168 .
    12. 王晓燕,刘荷花,徐国华. 基于深度信念网络的光通信网络数据异常识别研究. 激光杂志. 2023(02): 149-153 .
    13. 潘海霞,曹宁. 基于SDN的数据中心端口故障检测方法设计. 自动化与仪器仪表. 2023(02): 56-60 .
    14. 刘豪. 基于数据挖掘的小行星探测轨道误差分析与校正. 自动化技术与应用. 2023(03): 11-14+19 .
    15. 孙占锋,王华东. 基于大数据分析的光纤网络链路状态识别研究. 激光杂志. 2023(03): 190-194 .
    16. 蔡崇武. 基于载波调制的光纤通信网络传输质量提升方法. 激光杂志. 2023(03): 185-189 .
    17. 陈铭杰,毕凯峰,黄潜. 基于光纤供能的双网融合通信恶意数据识别系统. 激光杂志. 2023(03): 170-174 .
    18. 童伟传,方友军,唐明. 基于数据挖掘的政务数据安全风险检测系统. 信息技术. 2023(02): 151-156 .
    19. 杨青,吴松丽. 基于大数据挖掘的船舶通信系统关键设备状态分析. 舰船科学技术. 2023(05): 136-139 .
    20. 刘杰. 基于孤立森林算法的巡检机器人通信异常数据自动检测方法. 信息与电脑(理论版). 2023(03): 86-88 .
    21. 赵健. 基于hadoop的舰船通信网络数据并行处理方法. 舰船科学技术. 2023(07): 158-161 .
    22. 高欣,李苗,张燕玲. 基于大数据分析的融合通信智能分析平台设计. 信息通信技术. 2023(01): 78-84 .
    23. 李东昆,高险峰,张乃平,卢宇亭. 基于改进K-means算法的光通信数据异常检测预警方法. 自动化与仪器仪表. 2023(07): 51-54 .
    24. 马伟,田静,高振怀. 光纤传感网络空间中攻击节点捕获方法研究. 激光杂志. 2023(07): 189-193 .
    25. 徐胤博,于洋. 基于K-means聚类的舰船通信网络异常数据检测. 舰船科学技术. 2023(16): 169-172 .
    26. 贾丽,刘欣,郭健. 基于数据挖掘的光纤通信故障数据诊断方法研究. 激光杂志. 2023(08): 177-181 .
    27. 陈婧,林超,薛迎卫,施炜炜. 智能电网电量异常数据的识别和修复研究. 自动化仪表. 2023(10): 80-84 .
    28. 卢云霞,王晶. 基于人工智能技术的光通信网络异流数据检测. 激光杂志. 2023(10): 143-147 .
    29. 王晓丹,王子乔,金山海. 社交网络中用户签到行为位置泄露风险预警. 计算机仿真. 2023(09): 401-405 .
    30. 樊佩佩,王静,程学军. 空分复用弹性光网络多链路故障快速识别研究. 激光杂志. 2023(11): 131-135 .
    31. 杜广周,唐坤剑. 基于大数据驱动的光纤通信网络异常入侵检测研究. 激光杂志. 2023(11): 116-120 .
    32. 周鹤,黄建军. 基于大数据分析的光通信系统关键设备状态识别. 激光杂志. 2023(12): 167-172 .
    33. 张樊,王晶. 基于数据挖掘的偏振光成像目标检测研究. 激光杂志. 2023(12): 225-230 .
    34. 张伟. 基于单片机及FPGA的电力载波通信异常信号监测系统设计. 计算机测量与控制. 2023(12): 8-13+20 .
    35. 张战胜,马亮. 基于机器视觉的通信网络数据可靠度计算方法. 电子设计工程. 2022(04): 88-91+96 .
    36. 郑美容. 基于CUR矩阵分解的网络异常大数据检测算法. 黄河科技学院学报. 2022(02): 26-30 .
    37. 曹建生. 基于粒子群算法的光纤通信网络入侵干扰信号定位检测方法. 信息与电脑(理论版). 2022(01): 186-188 .
    38. 万磊. 基于大数据的数据通信网络规划设计. 数据通信. 2022(01): 1-5 .
    39. 程传旭,李川. 基于数据挖掘的网络异常数据快速采集系统. 自动化与仪器仪表. 2022(02): 81-85 .
    40. 杨章勇,李欢. 工业以太网通信协议关键方法的优化与仿真. 计算机仿真. 2022(03): 377-380+395 .
    41. 王建设,李奎,印伟,郑斌,夏晨阳. 基于大数据分析的智慧电厂设备状态监测研究. 电气应用. 2022(03): 28-33 .
    42. 沈毅波. 基于深度学习的通信网络数据关键特征挖掘. 龙岩学院学报. 2022(02): 14-19+128 .
    43. 李杨,李恒武,高勇. 自由空间激光通信网络异常数据检测方法. 激光杂志. 2022(06): 160-163 .
    44. 秦轶翚,马涛. 分布式光纤应变传感网络节点异常状态识别方法. 激光杂志. 2022(06): 211-215 .
    45. 曾国庆,龚晓雪,李文娟,陈艳,潘显兵. 数据置乱处理的光纤通信系统加密机制. 激光杂志. 2022(07): 149-153 .
    46. 蒋诚智,徐浩,黄传锋,邓松. 基于Merkle哈希树的异构通信网络数据异常值概率识别算法. 兵器装备工程学报. 2022(06): 190-195+231 .
    47. 董燊. 复杂通信网络背景下的异常检测研究. 信息技术与信息化. 2022(07): 185-188 .
    48. 连鸿鹏,程志强,余丰盈. 光纤通信网络中链路数据篡改攻击与防御方法. 激光杂志. 2022(08): 125-129 .
    49. 陈家璘,孙志峰,曾铮,隋璐捷,汪龙志. 基于透明加密的无线通信网络数据防窃取方法. 自动化与仪器仪表. 2022(08): 86-90 .
    50. 田洪生,仝军,吴翠红. 基于云框架直方图的无线传感网络数据异常检测方法. 传感技术学报. 2022(07): 990-995 .
    51. 赵海燕,杜丽娟,刘琨,刘建国. 分布式光纤预警系统同质序列数据异常模式挖掘方法. 激光杂志. 2022(09): 134-138 .
    52. 谭韶生,夏旭. 数据挖掘的船舶通信网络非法入侵智能检测方法. 舰船科学技术. 2022(17): 144-147 .
    53. 周燕,温荣丽,肖丕强. 无源光网络异常信息入侵风险感知系统模型. 激光杂志. 2022(10): 115-119 .
    54. 杨静,郭韦昱,杨文彬. 基于深度森林的可见光通信网络恶意代码识别研究. 激光杂志. 2022(10): 150-154 .
    55. 戴礼灿,代翔,崔莹,魏永超. 基于深度集成学习的社交网络异常数据挖掘算法. 吉林大学学报(工学版). 2022(11): 2712-2717 .
    56. 乔艳琰,魏爽. 基于深度学习的多通道光纤数据安全融合方法. 激光杂志. 2022(11): 99-103 .
    57. 陈阳. 光纤网络中视频数据双向传输系统设计. 激光杂志. 2022(11): 93-98 .
    58. 代天成,李毅. 基于节点修复的光通信网络动态抗毁性方法. 激光杂志. 2022(11): 83-88 .
    59. 丁小峰,张文杰,徐赛华. 光纤无线融合网络低能耗路由优化方法研究. 激光杂志. 2022(12): 128-132 .
    60. 王霞,曹丽娜,杨凤丽. 基于改进Apriori算法的网络入侵数据挖掘仿真. 计算机仿真. 2022(10): 309-312+434 .
    61. 徐胜超. 基于历史数据分析的容器云安全风险评估方法. 计算机测量与控制. 2022(11): 265-271 .
    62. 李杰. 局域网应急通信堵塞强化预警算法设计. 信息工程大学学报. 2022(05): 550-555 .
    63. 钱宗斌. 基于无线传感网络的通信数据异常检测方法. 辽东学院学报(自然科学版). 2022(04): 300-304 .
    64. 李立. 物联网环境下船舶移动网络异常数据检测研究. 舰船科学技术. 2021(16): 127-129 .
    65. 司明,金立群. 船舶AIS网络通信异常数据修正方法仿真. 舰船科学技术. 2021(18): 151-153 .
    66. 李军华,丁宪成. 虚拟化网络中的异常大数据剔除算法仿真. 计算机仿真. 2021(10): 410-413+475 .
    67. 康万杰,潘有顺. 云计算及LLF算法的光纤数据差异化调度策略. 激光与红外. 2021(12): 1643-1648 .
    68. 刘峰,朱颉,张凯,冯晗,张伟,周庆捷. 数据挖掘下电网调度信号异常数据提取方法. 湘潭大学学报(自然科学版). 2021(06): 74-80 .

    Other cited types(1)

Catalog

    Article views (1569) PDF downloads (30) Cited by(69)

    /

    DownLoad:  Full-Size Img  PowerPoint
    Return
    Return