admin 管理员组文章数量: 1086019
2024年4月13日发(作者：2018年传智播客黑马python15期)
模式识别与人工智能
测控技术
年第卷第期
２０２３４２８
·
１
·
面向大规模数据的
ＳＶＤＤ
在线学习算法
（军航空大学青岛校区，山东青岛河超级计算淮海分中心，山东临沂
１．
海
２６６０４１
；
２．
天
２７６００２
）
强王小飞
，
陈永展
，
王
，
高艳丽
，
李健增
１１１１２
摘要
：
针对支持向量数据描述
（
ＳｕｐｐｏｒｔＶｅｃｔｏｒＤａｔａＤｅｓｃｒｉｐｔｉｏｎ
，
ＳＶＤＤ
）
在线学习时的支持向量数量随样
，
进而导致模型更新时间呈非线性增长的问题
，
提出一种基于支持向量约减的
本规模的扩大呈线性增加
（
ＲＳＶＤＤ
）
在线学习方法
。
该算法通过执行支持向量约减
，
控制在线学习时的支持
支持向量数据描述
从而使其具有比其他法更快速且更稳定的模型更新时间适合大规模数据的分类处
，
ＳＶＤＤ
算
，
向量数量
。
首先阐述了支持向量约减的原理
；
进而给出了在线
ＲＳＶＤＤ
算法
。
在单分类和多分类数据集上的
理
，，。
ＲＳＶＤＤ
算法相较于
ＳＶＤＤ
算法能够在保持分类精度的基础上拥有更快的学习速度
实验结果表明
关键词大规模数据支持向量数据描述支持向量约减在线学习
：；；；
：
ＴＰ１８１
文献标志码
：
Ａ
文章编号
：
１０００－８８２９
（
２０２３
）
０８－０００１－０６
中图分类号
１０．１９７０８／ｊ．ｃｋｊｓ．２０２３．０２．２１２
ｄｏｉ
：
ＳＶＤＤＯｎｌｉｎｅＬｅａｒｎｉｎｇＡｌｇｏｒｉｔｈｍｆｏｒＬａｒｇｅＳｃａｌｅＤａｔａ
ＷＡＮＧＸｉａｏｆｅｉ
１
牞ＣＨＥＮＹｏｎｇｚｈａｎ
１
牞ＷＡＮＧＱｉａｎｇ
１
牞ＧＡＯＹａｎｌｉ
１
牞ＬＩＪｉａｎｚｅｎｇ
２
牗１．ＱｉｎｇｄａｏＣａｍｐｕｓｏｆＮａｖａｌＡｖｉａｔｉｏｎＵｎｉｖｅｒｓｉｔｙ牞Ｑｉｎｇｄａｏ２６６０４１牞Ｃｈｉｎａ牷
２．ＴｉａｎｈｅＳｕｐｅｒｃｏｍｐｕｔｉｎｇＣｅｎｔｅｒｏｆＨｕａｉｈａｉ牞Ｌｉｎｙｉ２７６００２牞Ｃｈｉｎａ牘
Ａｂｓｔｒａｃｔ牶Ｉｎｏｒｄｅｒｔｏｓｏｌｖｅｔｈｅｐｒｏｂｌｅｍｔｈａｔｔｈｅｎｕｍｂｅｒｏｆｓｕｐｐｏｒｔｖｅｃｔｏｒｓｉｎｓｕｐｐｏｒｔｌｅａｒｎｉｎｇｏｆｓｕｐｐｏｒｔｖｅｃｔｏｒ
ｄａｔａｄｅｓｃｒｉｐｔｉｏｎ牗ＳＶＤＤ牘ｉｎｃｒｅａｓｅｓｌｉｎｅａｒｌｙｗｉｔｈｔｈｅｅｎｌａｒｇｅｍｅｎｔｏｆｓａｍｐｌｅｓｉｚｅ牞ｗｈｉｃｈｌｅａｄｓｔｏｔｈｅｎｏｎｌｉｎｅａｒ
ｇｒｏｗｔｈｏｆｍｏｄｅｌｕｐｄａｔｅｔｉｍｅ牞ａｎｏｎｌｉｎｅｌｅａｒｎｉｎｇｍｅｔｈｏｄｏｆｓｕｐｐｏｒｔｖｅｃｔｏｒｄａｔａｄｅｓｃｒｉｐｔｉｏｎｂａｓｅｄｏｎｓｕｐｐｏｒｔ
ｖｅｃｔｏｒｒｅｄｕｃｔｉｏｎ牗ＲＳＶＤＤ牘ｉｓｐｒｏｐｏｓｅｄ．Ｂｙｐｅｒｆｏｒｍｉｎｇｓｕｐｐｏｒｔｖｅｃｔｏｒｒｅｄｕｃｔｉｏｎ牞ｔｈｅｎｕｍｂｅｒｏｆｓｕｐｐｏｒｔｖｅｃｔｏｒｓ
ｉｎｏｎｌｉｎｅｌｅａｒｎｉｎｇｉｓｃｏｎｔｒｏｌｌｅｄ牞ｓｏｉｔｈａｓａｆａｓｔｅｒａｎｄｍｏｒｅｓｔａｂｌｅｍｏｄｅｌｕｐｄａｔｅｔｉｍｅｔｈａｎｏｔｈｅｒＳＶＤＤａｌｇｏ
ｒｉｔｈｍｓ牞ｗｈｉｃｈｉｓｓｕｉｔａｂｌｅｆｏｒｌａｒｇｅｓｃａｌｅｄａｔａｃｌａｓｓｉｆｉｃａｔｉｏｎｐｒｏｃｅｓｓｉｎｇ．Ｆｉｒｓｔｌｙ牞ｔｈｅｐｒｉｎｃｉｐｌｅｏｆｓｕｐｐｏｒｔｖｅｃｔｏｒｒｅ
ｄｕｃｔｉｏｎｉｓｄｅｓｃｒｉｂｅｄ牞ａｎｄｔｈｅｎａｎｏｎｌｉｎｅＲＳＶＤＤａｌｇｏｒｉｔｈｍｉｓｇｉｖｅｎ．Ｔｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｏｎｓｉｎｇｌｅａｎｄ
ｍｕｌｔｉｃｌａｓｓｉｆｉｃａｔｉｏｎｄａｔａｓｅｔｓｓｈｏｗｔｈａｔｔｈｅＲＳＶＤＤａｌｇｏｒｉｔｈｍｃａｎｉｍｐｒｏｖｅｔｈｅｌｅａｒｎｉｎｇｓｐｅｅｄｓｉｇｎｉｆｉｃａｎｔｌｙ
ｗｈｉｌｅｍａｉｎｔａｉｎｉｎｇｔｈｅａｃｃｕｒａｃｙｏｆｏｎｌｉｎｅＳＶＤＤｃｌａｓｓｉｆｉｃａｔｉｏｎ．
Ｋｅｙｗｏｒｄｓ牶ｌａｒｇｅｓｃａｌｅｄａｔａ牷ＳＶＤＤ牷ｓｕｐｐｏｒｔｖｅｃｔｏｒｓｒｅｄｕｃｔｉｏｎ牷ｏｎｌｉｎｅｌｅａｒｎｉｎｇ
机器学习是人工智能领域的热门研究课题，在信
息采集技术不断发展的今天，大规模数据的处理能力
已经成为衡量一个机器学习算法好坏的核心因
［］
。作
素
为一种新兴的机器学习算法，支持向量数
据描述（
ＳｕｐｐｏｒｔＶｅｃｔｏｒＤａｔａＤｅｓｃｒｉｐｔｉｏｎ
，
ＳＶＤＤ
）在处理
不均衡分布的数据集时具有独特优势，因而在故障检
１－３
［］
。然
测领域得到了广泛应用
而，在处理大规模数
据时，
ＳＶＤＤ
的训练复杂度会随着数据规模的扩大呈
［］
。
指数增长，泛化能力有限
通过在线学习来降低
ＳＶＤＤ
处理大规模数据时的
［］
最
训练复杂度，是近年来的研究热点。
Ｔａｘ
等先提
出基于有限训练集的在线
ＳＶＤＤ
算法，该算法的缺点
４－７
８－９
１０
收稿日期
：
２０２２－１１－２２
基金项目国家自然科学基金
：（
８２１０２００２
）
引用格式
：
王小飞
，
陈永展
，
王强
，
等
．
面向大规模数据的
ＳＶＤＤ
在线学习算法
［
Ｊ
］
．
测控技术
，
２０２３
，
４２
（
８
）：
１－６．
ＷＡＮＧＸＦ
，
ＣＨＥＮＹＺ
，
ＷＡＮＧＱ
，
ｅｔａｌ．ＳＶＤＤＯｎｌｉｎｅＬｅａｒｎｉｎｇＡｌｇｏｒｉｔｈｍｆｏｒＬａｒｇｅＳｃａｌｅＤａｔａ
［
Ｊ
］
．Ｍｅａｓｕｒｅｍｅｎｔ＆Ｃｏｎｔｒｏｌ
Ｔｅｃｈｎｏｌｏｇｙ
，
２０２３
，
４２
（
８
）：
１－６．
·
２
·
是仍采用传统方法来解二次规划（
ＱｕａｄｒａｔｉｃＰｒｏｇｒａｍ
ｍｉｎｇ
，
ＱＰ
）问题，其运算速度仍然有限；
Ｊｉａｎｇ
［］
、
Ｃｈｅｎ
［］
、
Ｚｈａｎｇ
［］
、
Ｇｙａｍｆｉ
［］
和
Ｘｉｅ
［］
等分别提出了
不同的增量式
ＳＶＤＤ
训练方法，此类方法的基本思想
是通过逐个迭代训练样本来更新分类器模型，并采用
一些近似方法来保证整个训练过程的收敛速度，缺点
是支持向量数量通常会随着样本规模的扩大呈线性增
加（在含噪数据中尤为明显），进而导致模型更新时间
的非线性增长。
针对上述问题，本文借鉴支持向量机（
Ｓｕｐｐｏｒｔ
ＶｅｃｔｏｒＭａｃｈｉｎｅ
，
ＳＶＭ
）在线学习过程中的支持向量约
ＳＶＤＤ
在线学习
减思想，提出一种面向大规模数据的
方法，其核心是通过支持向量约减来限定在线学习过
程中的支持向量数量，从而使算法具有恒定的模型更
新时间，进而提升整个在线学习过程的效率。
１１
１２１３１４１５
《
测控技术
》
２０２３
年第
４２
卷第
８
期
式中：测试样本；任一支持向量。
ｘ
为
ｘ
为
ｄ
（
ｘ
）是以
ｃ
）
显然在支持向量约减的过程中，
Φ
（
为自变量的函数，决策性能变化最小等价于最小化
ｃ
），其中
ｃ
）
＝
‖Φ
（
ｃ
）
－
Φ
（
ｃ′
）
ｃ′
为执
ΔΦ
（
ΔΦ
（
‖
，
行支持向量约减后的球心。上式表明最小化分类性能
衰退等价于最小化超球球心在约减前后的欧氏距离。
２
个支持向量
ｘ
和
ｘ
直接合并为假设将选定的
ｍ
，
ｍ
满足：
ｋ
２２２
ａｂ
且其
Ｌａｇｒａｎｇｅ
系数为则
ＫＫＴ
条件成立，
α
＋
α
，
ｃ
）
＝０
，即决策性能没有变化。然而由于
ｍ
）·
ΔΦ
（
Φ
（
ｍ
）
＜１
，不满足高斯核映射，因此
ｍ
在输入空间并
Φ
（
ｓ
来替代
不存在。为此在输入空间中寻找一个向量
满足与之间的欧氏距离最短，即
ｍ
，
ｓ
）
ｍ
）
Φ
（
Φ
（
ａｂ
Φ
ｍ＝
α
ａ
Φ
ｘ
ａ
／
α
ａ
＋
α
ｂ
＋
α
ｂ
Φ
ｘ
ｂ
／
α
ａ
＋
α
ｂ
（）（）（）（）（）（
３
）
１
式（
４
）展开后用高斯核化简去掉常数项并对
ｓ
求
导，可得：
依据算法原理，
ＳＶＤＤ
的决策性能可由其支持向
偏
ｓ＝
ε
ｘ＋
（
１－
ε
）
ｘ
（
５
）
［］
。因
量集来完整描述，而与其他训练样本无关
此，
中：
在线
ＳＶＤＤ
通常以训练部分样本得到的支持向量为初
其
ｘ
，
ｓ
）
φ
Ｋ
（
（
＝６
）
ε
Ｋａ
始训练集，然后逐个测试剩余样本，当其不满足
ｘ
，
ｓ
）
＋
φ
Ｋ
（
ｘ
，
ｓ
）
φ
Ｋ
（
［］
条
ＫＫＴ
）件时，便将其加入当前
将
ｒｕｓｈＫｕｈｎＴｕｃｋｅｒ
（
式（
５
）和式（
６
）代入式（
４
）并简化，可得：
训练集，并通过训练来更新模型的分类边界。
ｍａｘ
（
ｘ
，
ｘ
）
＋
φ
Ｋ
（
ｘ
，
ｘ
））（
７
）
φ
Ｋ
（
显然，当训练样本规模过大、样本密度过高时，上述
中：
Ｋ
（
ｘ
，
ｘ
）
＝Ｋ
（。可以使用不同的搜
ε
ｘ
，
ε
ｘ
）
方法得到的支持向量集规模会在在线学习过程中不断
式
［］
来
方法
寻找使式（获得极大值。
ｓ
可由式
７
）
ε
，
增大，从而使在线
ＳＶＤＤ
的单次模型更新时间不断增
索
（
５
）计算。
ＳＶＤＤ
长。考虑到当支持向量数量增长到一定程度后，
下一步确定
值，以满足最小，故
ａ
和
ｂ
的
ｃ
）
ΔΦ
（
分类精度不再增加，因而约减支持向量是有必要的。
以通过式（进行搜索。
ｂ
可
８
）
由化而来的。为了处
ａ
和
ＳＶＤＤ
是
ＳＶＭ
演
众所周知，
ｍｉｎ
‖Φ
（
＋
ｃ′
）
－
Φ
（
ｃ
）（
ｘ
）
‖
＝
‖
（
α
＋
α
）
ε
－
α
）
Φ
（
理大规模数据，通过合并方法来约减支持向量数量进
，
［］
。
（
而提高在线
ＳＶＭ
的学习效率已得到成功验证
（（
１－
ε
）
－
α
）
ｘ
）
α
＋
α
）
Φ
（
‖
下面以最小化决策性能衰退为原则，将文献［
１８
］中针
（
８
）
ＳＶＭ
的支持向量合并策略引入到
ＳＶＤＤ
中。
对
由式（
５
）可知
ｓ
在
ｘ
和
ｘ
的连线上，考虑到模型
支持向量约减的基本思想是，当在线学习中的支
分类边界多为曲面，表明
ｓ
没有落在分类边界上，此时
２
个选定的支持向量
约
持向量数量大于规定值时，即将
减算法仍然具有优化的空间。为此，进一步在输入
１
个，同时确保模型分类性能变化最小。
合并为
空间中寻找一个新的支持向量
ｖ
，使
ｖ
离
ｓ
最近，且它
Ｔ
假设在线学习过程中，当前时刻支持向量集为
的像
ｖ
）落在分类边界上，即
Φ
（
ｘ
，
ｉ＝１
，…，
ｎ
｝，
ｉ＝１
，…，
ｎ
｝为与支持向量
ｍｉｎ
‖
ｖ－ｓ
‖
＝
｛
α
＝
｛
α
，
一一对应的
Ｌａｇｒａｎｇｅ
乘子，则
ＳＶＤＤ
的球心
ｃ
可表述
ｓ．ｔ．
‖Φ
（
ｖ
）
－
Φ
（
ｃ
）
‖
＝
‖Φ
（
ｘ
）
－
Φ
（
ｃ
）
‖
（
９
）
为
９
）
Ｌａｇｒａｎｇｅ
乘采用高斯核展开式（，并引入子去
１
）
ｃ
）
＝
∑
αΦ
（
ｘ
）（
Φ
（
掉式（
９
）的约束项，可得：
式中：
ｘ
）·
ｘ
）
＝ｅｘｐ
（
－
‖
ｘ－ｘ
‖
／２
σ
）为高
Ｌ
（
ｖ
）
＝ｖｖ－２ｖｕ－
μ
∑
α
Ｋ
（
ｖ
，
Φ
（
Φ
（
１０
）
ｘ
）
＋
μ
∑
α
Ｋ
（
ｘ
，
ｘ
）（
斯核函数。
然后置可得：
Ｌ／
ｖ＝０
，
ＳＶＤＤ
的决策函数可以表述为
而
１１
）
ｖ－ｕ
）
／ｖ－ｘ
）
Ｋ
（
ｖ
，
ｘ
）（
μ
＝
（
α
（
１６
ａｂ
ａａ
支持向量约减原理
１７
ｍｉｎ
‖Φ
ｍ－
Φ
ｓ
‖
２
ｓ
（）（）
（
４
）
ａａｂｂ
ε
ａ１－
ε
ａｂｂ
ε
ａｂ
ε
ａｂａｂ
２０
２
２
１８－１９
ａｂ
ａｂａａ
２
ａｂｂｂ
ａｂ
ｉｉ
２
ｖ
２２
ｋ
ｉｉ
ｉ
２２
ｉｊｉｊ
ＴＴ
ｉｉｉｋｉ
ｉｉ
ｄｘ＝
‖Φ
ｘ－
Φ
ｃ
‖
２
－
‖Φ
ｘ
ｋ
－
Φ
ｃ
‖
２
（）
（）（）（）（）
（
２
）
∑
ｉ
ｉｉｉ
面向大规模数据的
ＳＶＤＤ
在线学习算法
·
３
·
－
，
－
取
将式（代入式（，可以得到式（的非约束
ｍ
１１
）
１０
）
９
）
如果
ＲＳＶＤＤ
算法中用
ｍ
代
ｍ
，即可获得最小的
ＳｔｏｃｈａｓｔｉｃＧｒａｄｉｅｎｔＤｅ
优化形式。采用随机梯度下降（
大
ｍ
略
模型更新时间。为保留一定的裕度，通常取
［］
ＳＧＤ
）方法来快速求解
ｖ
，即
ｓｃｅｎｔ
，
－
。而
－
取
于
ｍｍ
决于与数据集特性相关的众多因素，多
ｖ＝ｖ－
η
Ｌ
（
ｖ
，
ｘ
）（
１２
）
ｍ
可根
数情况下其值无法事先确定。在实际应用中，
式中：
ｔ
为迭代步数；
ｖ
为
ｖ
的
ｔ
时刻向量；学习速率；
据
η
为
先验知识来估计，也可以根据处理速度和存储空间
ｘ
为随机迭代样本；
ｖ
，
ｘ
）为瞬时梯度，其表达式为
等
Ｌ
（
条件的限制来选取。
ｖ
，
ｘ
）
＝２
（
ｖ－ｕ
）
＋
Ｌ
（
２．３ ｍ
选取方法
（（（
ｖ－ｕ
）
／
（
ａａ
）
－
δ
－ｂ
）
δ
＋２
ξ
）
下面以常用的二维
Ｂａｎａｎａ
数据集为例来说明在
ａ
（
ｖ－ｕ
）
ａ
）
／
（
ａａ
）（
１３
）
δ
－ｂ＋２
（
没有先验知识的前提下，
ｍ
的普适性选取方法。训练
其中：
ａ＝
α
（
ｖ－ｘ
）
Ｋ
（
ｖ
，
Ｔ
的规模为
１０００００
，步骤如下。
集
ｘ
）
Ｔ
中随机抽取
ｋ
个样本进行训练，记录得到
①
从
ｖ
，
ｘ
）
δ
＝
α
Ｋ
（
ｍ
。需要注意的是，
ｋ
需选取一个较
的支持向量数量
１４
）
（
ξ
＝
α
（
ｖ－ｘ
）（
ｖ－ｘ
）
Ｋ
（
ｖ
，
ｘ
）
Ｔ
近似的分布特征，从而
小的值，且要确保其具有与
ｂ＝
∑
α
Ｋ
（
ｘ
，
ｘ
）
－
比
ｍ
与
ｍ
较接近。
ｋ
一般为
１００～１０００
，这
使得到的
取
ｋ＝５００
。重复上述操作
１０
次，并记
ｍ
的估计值为
式中：
ａ
为瞬时向量；瞬时常量；
ｂ
为常数。
里
δ
和
ξ
为
最后，
ｖ
通
１２
）过式（来求取。
＾
＝ｒｏｕｎｄ
（
１
∑
ｍ
）
１５
）
ｍ
（
１０
式中：
ｒｏｕｎｄ
（·）表示向上取整，得到的
ｍ
依次为
１１
、
２ ＲＳＶＤＤ
在线学习算法
＾
＝１２
。
１１
、
１２
、
１４
、
１０
、
１３
、
１０
、
９
、
１２
和
１１
，可得
ｍ
２．１
算法步骤
减小
ｋ
值选取对估算
ｍ
的影响，从
Ｔ
中随机
②
为
法的主要步骤如下。
ＲＳＶＤＤ
算
ＲＯＣ
（
Ｒｅｃｅｉｖｅｒ
取几个大规模样本集进行训练，并计算
机抽取给定训练数据集
Ｔ
中的前
ｋ
个样本
抽
①
随
Ｃｈａｒａｃｔｅｒｉｓｔｉｃ
，受试者工作特征）曲线下的面
进行训练，得到支持向量集合
Ｔ
，记
Ｔ＝Ｔ
，设定预
Ｏｐｅｒａｔｉｎｇ
积，即
，取值范围为
ＡＵＣ
（
ＡｒｅａＵｎｄｅｒＲＯＣＣｕｒｖｅ
）
０～１
，
置参数
设定方法在下文介绍）。
ｍ
（
［］
。训
＾
练过程中，
ｍ
为参考
ｍ
值越大表明分类精度越高
于
ｔ
时刻的剩余样本
ｘ
，检测其是否符合
设
②
对
定的变量，随机抽取的样本规模分别为
５０００
、
１００００
ＫＫＴ
条件，若符合，则重复步骤检测
ｘ
，否则，执
和
②
来
结果如图示。可以看出，在定值分
１５０００
，
１
所
ｍ
设
行步骤
。
③
８
、
１０
和
１２
时，分类器性能达到稳定。这说明对于
别为
断
ｌｅｎｇｔｈ
（
Ｔ
）否成立。若成立，执
二
③
判
≥
ｍ
是
－
值
Ｂａｎａｎａ
数据集来说，其
ｍ
在
８～１０
之间，为了确
维
行步骤
否则，执行步骤
④
，
⑦
。
ｍ＝１０
。
分类器的分类精度，最后取上限
据式（
７
）和式（
８
）来寻找
ｘ
和
ｘ
，然后根
保
④
根
β
、
据式（
５
）计算
ｓ
。
据式（
１２
）计算
ｖ
。
⑤
根
用来约减
Ｔ＝Ｔ＼
｛
ｘ
，
ｘ
｝
ｖ
｝
Ｔ
。
⑥
采
∪
｛
练
Ｔ
∪
｛
ｘ
｝以更新分类器模型，得到支持
⑦
训
向量集
Ｔ
，并记
Ｔ＝Ｔ
。
复步骤直到全部剩余样本检测完毕，在
⑧
重
②
，
线学习过程结束。
２．２
算法复杂度分析
图
１ ＡＵＣ
随
ｍ
设定值变化情况
在
ＲＳＶＤＤ
算法中，寻找
ｘ
和
ｘ
的复杂度大约
Ｏ
（
ｌｏｇ
（
１／
λ
）
ｍ
），其中搜索精度，寻找
ｓ
为
λ
为
ε
的
验结果与分析
和
ｖ
的复杂度大约为
Ｏ
（
ｍ
），而训练包含
ｍ
个支持
３
实
Ｏ
（
ｍ
），因而单次模型更新的
下
向量的样本的复杂度为
面分别采用人工数据集和真实数据集来验证
时间开销约为
Ｏ
（
ｌｏｇ
（
１／
ε
）
ｍ
）
＋Ｏ
（
ｍ
）
＋Ｏ
（
ｍ
）。
ＲＳＶＤＤ
的有效性，在线支持向量数据描述（
Ｏｎｌｉｎｅ
显然，
ｍ
的
ＲＳＶＤＤ
算取值是决定法性能的关
ＳＶＤＤ
，
ＯＳＶＤＤ
）
［］
和增量支持向量数据描述（
Ｉｎｃｒｅ
［］
被
基础研究成果表明，描述一个样本集完
键。
ＳＶＤＤ
的
ＩＳＶＤＤ
）用来进行对比分析。实验
ｍｅｎｔａｌＳＶＤＤ
，
［］
，
备边界的必要支持向量数量是有限的
即存在下界
ＰＣ
配置为
ＩｎｔｅｌＣｏｒｅｉ５６５００
、
３．２ＧＨｚＣＰＵ
、
４ＧＢＲＡＭ
０
２１
０
ｔ＋１ｔｔｖｔｔ
０
ｔｔ
ｔｖｔｔ
ｖｔｔｔ
ｔｔｔｔ
Ｔ
ｔ
０
ｔ
Ｔ
ｔｔｔｔ
Ｔ
ｔ
ｔ
０
ｔｔｔｔｔｔ
ｔｔｔｔ
Ｔ
ｔｔｔｔｔｔｔｔ
ｉｋｉ
ｉ
ｔｔｔ
ｉ
ｉ
ＳＶ０ＳＶ
０１９
ｔ
ｔ＋１
ｔ－１０
０
ａｂ
ｔ－１
ｔ－１
ｔ－１
ｔ
ｐｑｔ－１
ＳＶｔＳＶ
ａｂ
２
０
００
３
０
２
０
０
３
０
０
１０
１５
２２
·
４
·
和型待定参数选取方
ＭＡＴＬＡＢＲ２０１８ａ
。模
Ｃ
和
σ
的
法同文献［
２３
］。
３．１
单分类数据集实验
首先由
ＰＲＴｏｏｌｓ
工具箱（
ｈｔｔｐ
：
／／ｗｗｗ．ｐｒｔｏｏｌｓ．ｏｒｇ
）
产生
４
个规模分别为
６０００
、
８０００
、
１００００
和
１２０００
的
二维
Ｂａｎａｎａ
数据集（代表不叠加采样噪声的理想数据
集）。分别采用
ＯＳＶＤＤ
、
ＩＳＶＤＤ
和
ＲＳＶＤＤ
这
３
种
算法进行训练，训练时间和最终得到的支持向量数量
情况如图
２
所示。
图
２
序号
１
２
３
４
５
Ｂａｎａｎａ
单分类数据集上的训练结果
表
１
不同数据集下的对比实验
维数
２
３
４
５
６
／ｓ
训练时间
ＣＳＶＤＤ
２２５６．０２
１９０６．４０
２０２５．６９
２５８４．３５
２１５７．９６
ＩＳＶＤＤ
２２８．４９
２０５．５５
３９６．７２
５５９．４７
８１７．７６
ＲＳＶＤＤ
１２０．７３
９８．８６
９６．２５
１４６．９１
１０８．５２
《
测控技术
》
２０２３
年第
４２
卷第
８
期
图可以看出，学习
由
２
（
ａ
）
ＲＳＶＤＤ
和
ＩＳＶＤＤ
的
ＯＳＶＤＤ
迅速，而相对于
ＩＳＶＤＤ
，本文
速度都明显比
方法的速度优势随训练样本数据的增加逐步扩大；由
２
（
ｂ
）可以看出，
ＯＳＶＤＤ
的支持向量数量会随着样
图
ＲＳＶＤＤ
和
ＩＳＶＤＤ
具有相对
本数据增加而线性增长，
较少的支持向量数量，且可以发现在不同样本规模下，
ＲＳＶＤＤ
均比
ＩＳＶＤＤ
用更少的支持向量数据去描述
Ｒ
支持向量边界，在控制并约减支持向量数量上
ＳＶＤＤ
更占优势。这种比较优势是由于
ＲＳＶＤＤ
在数
据集中抽取具有和数据集整体分布特征近似的小样本
ｍ
，并以初始支持向量数量
去确定初始支持向量数量
ｍ
作为规定值，在支持向量约减的思想中，支持向量
数量不能大于规定值，否则执行支持向量约减。因此
ＲＳＶＤＤ
的支持向量数量人为可控。
出了算法在二维训练
３
给
３
种
Ｂａｎａｎａ
的
４
个
图
集上的分类边界和支持向量分布情况。可以看出，相
ＯＳＶＤＤ
和
ＩＳＶＤＤ
这
２
种方法，
ＲＳＶＤＤ
用最少
对于
的支持向量就得到了比较精确的分类边界，特别在样
１２０００
时控制和约减支持向量的优势更明显，
本数量
支持向量数量少且由支持向量构成的边界距离短。
３
种算法的泛化推广能力，同样由
为了对比分析
ＰＲＴｏｏｌｓ
工具箱产生目标样本和异常样本均为
２００００
的
Ｂａｎａｎａ
、
Ｃｉｒｃｕｌａｒ
、
Ｄｉｆｆｉｃｕｌｔ
、
Ｈｉｇｈｌｅｙｍａｎ
和
Ｌｉｔｈｕａｎｉａｎ
共
５
种人工数据集，它们的特征维数分别设置为
２
、
３
、
４
、
５
和
６
以代表不同维数的低特征维数据。实验时，
目标样本构成，
１５０００
个
训练集均由每个数据集的前
目标样本和全
５０００
个
测试样本均由每个数据集的后
ＣＳＶＤＤ
、
ＩＳＶＤＤ
和
ＲＳＶＤＤ
部异常样本构成。采用
共
３
种算法分别进行训练和测试实验，其训练速度和
示。
１
所
分类精度实验结果如表
０
０
数据集
Ｂａｎａｎａ
Ｃｉｒｃｕｌａｒ
Ｄｉｆｆｉｃｕｌｔ
Ｈｉｇｈｌｅｙｍａｎ
Ｌｉｔｈｕａｎｉａｎ
分类精度
／％
ＣＳＶＤＤ
９６．１８
９９．３６
９７．６１
９７．２３
９８．７７
ＩＳＶＤＤ
９４．７２
９７．５９
９７．３４
９７．７０
９６．９２
ＲＳＶＤＤ
９６．
３５
９９．３８
９７．４８
９７．１６
９８．６１
由表
１
可以看出，相对于
ＣＳＶＤＤ
和
ＩＳＶＤＤ
，本
文算法在
５
类数据集中均确保了较高的分类精度，同
时具有明显的学习速度优势，这主要是因为
ＲＳＶＤＤ
算法仅保留了在线学习过程中必要数量的支持向量，
从而减小了分类器模型的单次更新时间，进而提升了
整个数据集在线学习过程的速度。上述结果表明
ＲＳＶＤＤ
在人工数据集上具有较好的泛化推广能
力。
３．２
多分类数据集实验
为了验证
ＲＳＶＤＤ
在含噪声真实数据上的有效
性，采用
ＭＮＩＳＴ
手写数字图像数据集（来自
ｈｔｔｐ
：
／／
ｗｗｗ．ｃａｄ．ｚｊｕ．ｅｄｕ．ｃｎ／ｈｏｍｅ／ｄｅｎｇｃａｉ／Ｄａｔａ／ＭＬＤａｔａ．ｈｔ
进行实验。
ＭＮＩＳＴ
数据集包含了
６００００
个训练样
ｍｌ
）
本和
１００００
个测试样本，每个样本均为包含
２８×２８
个
面向大规模数据的
ＳＶＤＤ
在线学习算法
·
５
·
像素点（
７８４
个特征维）的手写数字图像。
ＭＮＩＳＴ
数据
０～９
的手写数字图像分别有
５９２３
、
集中，训练样本中
６７４２
、
５９５８
、
６１３１
、
５８４２
、
５４２１
、
５９１８
、
６２６５
、
５８５１
和
５９４９
幅，测试样本中
０～９
的手写数字图像分别有
９８０
、
１１３５
、
１０３２
、
１０１０
、
９８２
、
８９２
、
９５８
、
１０２８
、
９７４
和
。实验过程中，分别以训练集中的奇数
１００９
幅
１
、
３
、
５
、
７
、
９
数字图像为目标类，其余数字图像为异常类，
１００００
个测试样本为固定测试集。训练样本和测试
样本的图像示例如图
４
所示。
５
个目标类的训练时间结果对比如图
５
所示，分
类精度对比如图
６
所示。可以看出，在维度较高的多
分类真实含噪数据集中，
３
种算法的训练时间明显增
加，而分类精度却大幅降低。这主要是由于特征维度
的增加会导致支持向量数量的大幅增加，从而导致训
图
４ ＭＮＩＳＴ
手写数字图像
练时间呈指数级增长；而包含噪声会导致目标类的样
本边界极不规则，使得通过训练得到的分类边界误差
对比分析在单分类和多分类上的实验结果可以发
较大，从而导致分类精度下降。尽管如此，
ＲＳＶＤＤ
算
现，
ＲＳＶＤＤ
的学习速度优势在
ＭＮＩＳＴ
数据集上更高。
法仍然在保持较高分类精度的基础上，将在线
ＳＶＤＤ
具体原因是高特征维数据集的支持向量较多，一方面
导致了支持向量约减算法速度优势的增加，另一面也
的训练时间大幅降低。
图
３ Ｂａｎａｎａ
单分类数据集上的训练边界
·
６
·
《
测控技术
》
２０２３
年第
４２
卷第
８
期
［
Ｊ
］
．ＪｏｕｒｎａｌｏｆＰｈｙｓｉｃｓ
：
ＣｏｎｆｅｒｅｎｃｅＳｅｒｉｅｓ
，
２０２０
，
１５３３
（
４
）：
０４２０１５．
［
４
］曲建岭，王小飞，高峰，等
．
基于超椭球分类面的
ＳＶＤＤ
快速决策方法［
Ｊ
］
．
控制与决策，
２０１７
，
３２
（
４
）：
７２１－７２６．
ＱＵＪＬ
，
ＷＡＮＧＸＦ
，
ＧＡＯＦ
，
ｅｔａｌ．Ｆａｓｔｄｅｃｉｓｉｏｎａｌｇｏｒｉｔｈｍｏｆ
ＳＶＤＤｂａｓｅｄｏｎｈｙｐｅｒｅｌｌｉｐｓｅｃｌａｓｓｉｆｉｃａｔｉｏｎｂｏｕｎｄａｒｙ
［
Ｊ
］
．
ＣｏｎｔｒｏｌａｎｄＤｅｃｉｓｉｏｎ
，
２０１７
，
３２
（
４
）：
７２１－７２６
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
５
］
ＺＨＡＮＧＪＬ
，
ＹＡＮＧＦＷ
，
ＬＩＡＮＧＣ
，
ｅｔａｌ．ＡｎＳＶＤＤｂａｓｅｄ
ｐｏｓｔｐｒｏｃｅｓｓｉｎｇａｐｐｒｏａｃｈｆｏｒｖｉｂｒａｔｉｏｎｒｉｓｋａｓｓｅｓｓｍｅｎｔｏｆ
图
５
训练时间结果对比
减小了单个支持向量携带的分类信息权重，从而降低
了直接消除单个孤立样本造成的重要分类信息损失的
程度。上述结果表明
ＲＳＶＤＤ
算法适用于大规模样本
的在线学习问题，可以在保持较高分类精度的前提下，
明显提高在线
ＳＶＤＤ
的学习速度。
４
图
６
分类精度结果对比
本文提出了一种面向大规模数据的基于支持向量
ＲＳＶＤＤ
在线学习算法，用以解决在线
ＳＶＤＤ
约减的
方法在处理大规模数据时支持向量数量增加而导致的
模型更新时间过长的问题，并在
Ｂａｎａｎａ
、
Ｃｉｒｃｕｌａｒ
、
Ｄｉｆｆｉ
ｃｕｌｔ
、
Ｈｉｇｈｌｅｙｍａｎ
、
Ｌｉｔｈｕａｎｉａｎ
、
ＭＮＩＳＴ
多维数据集上与
ＯＳＶＤＤ
、
ＩＳＶＤＤ
进行对比实验，实验结果证明了
Ｒ
保持较高分类精度的前提下，大幅提高了在
ＳＶＤＤ
在
ＳＶＤＤ
的学习速度，模型更新时间相对稳定和快速，
线
进而提升了整个在线学习的效率，适用于工程实践中
的大规模数据处理。
参考文献
：
１
］［
ＳＡＨＡＢ．Ａｐｐｒｏｘｉｍａｔｉｏｎａｌｇｏｒｉｔｈｍｓｆｏｒｌａｒｇｅｓｃａｌｅｄａｔａａ
ｎａｌｙｓｉｓ
Ｃ／／Ｐｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅ４０ｔｈＡＣＭＳＩＧＭＯＤＳＩ
ＧＡＣＴＳＩＧＡＩＳｙｍｐｏｓｉｕｍｏｎＰｒｉｎｃｉｐｌｅｓｏｆＤａｔａｂａｓｅＳｙｓ
ｔｅｍｓ．２０２１．
结束语
［］
，［
２
］
［
３
］
，
ｂｌｅｆｏｒｌａｒｇｅｓｃａｌｅｈｉｇｈｌｙｉｍｂａｌａｎｃｅｄｄａｔａｃｌａｓｓｉｆｉｃａｔｉｏｎ
［
Ｊ
］
．ＫｎｏｗｌｅｄｇｅＢａｓｅｄＳｙｓｔｅｍｓ
，
２０２２
，
２４２
：
１０８２９５．
ＲＥＮＪＪＷＡＮＧＹＰＭＡＯＭＱｅｔａｌ．Ｅｑｕａｌｉｚａｔｉｏｎｅｎｓｅｍ
ＨＡＯＨＹ．Ｍａｃｈｉｎｅｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍｂａｓｅｄｏｎｂｉｇｄａｔａ
，
［
Ｊ
］
．ＪｏｕｒｎａｌｏｆＬｏｗＦｒｅｑｕｅｎｃｙＮｏｉｓｅ
，
ＶｉｂｒａｔｉｏｎａｎｄＡｃｔｉｖｅ
Ｃｏｎｔｒｏｌ
，
２０２１
，
４０
（
３
）：
１３０９－１３３４．
［
６
］
ＺＨＡＮＧＺ
，
ＤＥＮＧＸＧ．Ａｎｏｍａｌｙｄｅｔｅｃｔｉｏｎｕｓｉｎｇｉｍｐｒｏｖｅｄ
ｄｅｅｐＳＶＤＤｍｏｄｅｌｗｉｔｈｄａｔａｓｔｒｕｃｔｕｒｅｐｒｅｓｅｒｖａｔｉｏｎ
［
Ｊ
］
．Ｐａｔ
ｔｅｒｎＲｅｃｏｇｎｉｔｉｏｎＬｅｔｔｅｒｓ
，
２０２１
，
１４８
：
１－６．
［
７
］刘志远，赵欣洋，王化玲，等
．
基于
ＡＣＰＳＯＳＶＤＤ
的齿轮
．
机电工程，
２０２０
，
３７
（
４
）：箱故障异常检测方法研究［
Ｊ
］
３７７－３８２．
ＬＩＵＺＹ
，
ＺＨＡＯＸＹ
，
ＷＡＮＧＨＬ
，
ｅｔａｌ．Ａｎｏｍａｌｙｄｅｔｅｃｔｉｏｎ
ｏｆｇｅａｒｂｏｘｆａｕｌｔｂａｓｅｄｏｎＡＣＰＳＯＳＶＤＤ
［
Ｊ
］
．ＪｏｕｒｎａｌｏｆＭｅ
ｃｈａｎｉｃａｌ＆ＥｌｅｃｔｒｉｃａｌＥｎｇｉｎｅｅｒｉｎｇ
，
２０２０
，
３７
（
４
）：
３７７－３８２
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
８
］焦瑞华，马欣，李晓猛，等
．
基于
ＳＶＤＤ
和
ＰＦ
的剩余使用
Ｊ
］
．
测控技术，
２０２２
，
４１
（
４
）：
４２－４７．
寿命预测方法研究［
ＪＩＡＯＲＨ
，
ＭＡＸ
，
ＬＩＸＭ
，
ｅｔａｌ．Ｒｅｍａｉｎｉｎｇｕｓｅｆｕｌｌｉｆｅｐｒｅ
ｄｉｃｔｉｏｎｍｅｔｈｏｄｂａｓｅｄｏｎＳＶＤＤａｎｄＰＦ
［
Ｊ
］
．Ｍｅａｓｕｒｅｍｅｎｔ
＆ＣｏｎｔｒｏｌＴｅｃｈｎｏｌｏｇｙ
，
２０２２
，
４１
（
４
）：
４２－４７
（
ｉｎＣｈｉ
ｎｅｓｅ
）
．
［
９
］衷路生，王银利
．
基于改进核主元和支持向量数据描述
Ｊ
］
．
测控技术，
２０１７
，
３６
（
１
）：
３７－４１．
故障检测［
ＺＨＯＮＧＬＳ
，
ＷＡＮＧＹＬ．Ｆａｕｌｔｄｅｔｅｃｔｉｏｎｂａｓｅｄｏｎｉｍ
ｐｒｏｖｅｄｋｅｒｎｅｌｐｒｉｎｃｉｐａｌｃｏｍｐｏｎｅｎｔａｎｄｓｕｐｐｏｒｔｖｅｃｔｏｒｄａｔａ
ｄｅｓｃｒｉｐｔｉｏｎ
［
Ｊ
］
．Ｍｅａｓｕｒｅｍｅｎｔ＆ＣｏｎｔｒｏｌＴｅｃｈｎｏｌｏｇｙ
，
２０１７
，
３６
（
１
）：
３７－４１
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
１０
］
ＴＡＸＤＭＪ
，
ＬＡＳＫＯＶＰ．ＯｎｌｉｎｅＳＶＭｌｅａｒｎｉｎｇ
：
ｆｒｏｍｃｌａｓｓｉ
ｆｉｃａｔｉｏｎｔｏｄａｔａｄｅｓｃｒｉｐｔｉｏｎａｎｄｂａｃｋ
［
Ｃ
］
／／２００３ＩＥＥＥＸＩＩＩ
ＷｏｒｋｓｈｏｐｏｎＮｅｕｒａｌＮｅｔｗｏｒｋｓｆｏｒＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇ．２００４
：
４９９－５０８．
［
１１
］
ＪＩＡＮＧＨＳ
，
ＷＡＮＧＨＹ
，
ＨＵＷＨ
，
ｅｔａｌ．Ｆａｓｔｉｎｃｒｅｍｅｎｔａｌ
ＳＶＤＤｌｅａｒｎｉｎｇａｌｇｏｒｉｔｈｍｗｉｔｈｔｈｅＧａｕｓｓｉａｎｋｅｒｎｅｌ
［
Ｊ
］
．Ｐｒｏ
ｃｅｅｄｉｎｇｓｏｆｔｈｅＡＡＡＩＣｏｎｆｅｒｅｎｃｅｏｎＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ
，
：
２０１９
，
３３
（
１
）
３９９１－３９９８．
［
１２
］
ＣＨＥＮＢ
，
ＹＵＳＨ
，
ＹＵＹ
，
ｅｔａｌ．Ａｃｏｕｓｔｉｃａｌｄａｍａｇｅｄｅｔｅｃｔｉｏｎ
ｏｆｗｉｎｄｔｕｒｂｉｎｅｂｌａｄｅｕｓｉｎｇｔｈｅｉｍｐｒｏｖｅｄｉｎｃｒｅｍｅｎｔａｌｓｕｐ
ｐｏｒｔｖｅｃｔｏｒｄａｔａｄｅｓｃｒｉｐｔｉｏｎ
［
Ｊ
］
．ＲｅｎｅｗａｂｌｅＥｎｅｒｇｙ
，
２０２０
，
１５６
：
５４８－５５７．
［
１３
］
ＺＨＡＮＧＬＬ
，
ＱＩＡＯＦ
，
ＷＡＮＧＪＫ
，
ｅｔａｌ．Ｅｑｕｉｐｍｅｎｔｈｅａｌｔｈ
ａｓｓｅｓｓｍｅｎｔｂａｓｅｄｏｎｉｍｐｒｏｖｅｄｉｎｃｒｅｍｅｎｔａｌｓｕｐｐｏｒｔｖｅｃｔｏｒ
ｄａｔａｄｅｓｃｒｉｐｔｉｏｎ
［
Ｊ
］
．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＳｙｓｔｅｍｓ
，
Ｍａｎ
，
ａｎｄＣｙｂｅｒｎｅｔｉｃｓ
：
Ｓｙｓｔｅｍｓ
，
２０２１
，
５１
（
５
）：
３２０５－３２１６．
ｔｈｅｈｙｄｒｏｔｕｒｂｉｎｅｇｅｎｅｒａｔｏｒｉｎａｌａｒｇｅｈｙｄｒｏｐｏｗｅｒｓｔａｔｉｏｎ
下转第
（
２１
页
）
基于
ＲＦＰＣＡ
改进
ＳＶＭ
模型的齿轮故障诊断方法
障轮箱故诊断研究［
Ｊ
］
．
机械强度，
２０１６
，
３８
（
１
）：
３８－４３．
ＬＩＵＺＣ
，
ＴＡＮＧＬＷ
，
ＣＡＯＬＪ．Ｒｅｓｅａｒｃｈｏｎｇｅａｒｂｏｘｆａｕｌｔ
ｄｉａｇｎｏｓｉｓｂａｓｅｄｏｎＩｓｏｍａｐａｎｄＩＧＡＳＶＭ
［
Ｊ
］
．Ｊｏｕｒｎａｌｏｆ
ＭｅｃｈａｎｉｃａｌＳｔｒｅｎｇｔｈ
，
２０１６
，
３８
（
１
）：
３８－４３
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
１７
］
时培明，梁凯，赵娜，等
．
基于分形维数和
ＧＡＳＶＭ
的风
．
计量学报，
２０１８
，电机组齿轮箱轴承故障诊断［
Ｊ
］
３９
（
１
）：
６１－６５．
ＳＨＩＰＭ
，
ＬＩＡＮＧＫ
，
ＺＨＡＯＮ
，
ｅｔａｌ．Ｆａｕｌｔｄｉａｇｎｏｓｉｓｏｆｗｉｎｄ
ｔｕｒｂｉｎｅｇｅａｒｂｏｘｂｅａｒｉｎｇｂａｓｅｄｏｎｆｒａｃｔａｌｄｉｍｅｎｓｉｏｎａｎｄＧＡ
ＳＶＭ
［
Ｊ
］
．ＡｃｔａＭｅｔｒｏｌｏｇｉｃａＳｉｎｉｃａ
，
２０１８
，
３９
（
１
）：
６１－６５
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
１８
］
ＬＩＮＹ
，
ＸＩＡＯＭＨ
，
ＬＩＵＨＪ
，
ｅｔａｌ．Ｇｅａｒｆａｕｌｔｄｉａｇｎｏｓｉｓ
ｂａｓｅｄｏｎＣＳｉｍｐｒｏｖｅｄｖａｒｉａｔｉｏｎａｌｍｏｄｅｄｅｃｏｍｐｏｓｉｔｉｏｎａｎｄ
ｐｒｏｂａｂｉｌｉｓｔｉｃｎｅｕｒａｌｎｅｔｗｏｒｋ
［
Ｊ
］
．Ｍｅａｓｕｒｅｍｅｎｔ
，
２０２２
，
１９２
：
１１０９１３．
［
１９
］
ＤＩＮＧＪＫ
，
ＸＩＡＯＤＭ
，
ＬＩＸＪ．Ｇｅａｒｆａｕｌｔｄｉａｇｎｏｓｉｓｂａｓｅｄ
ｏｎｇｅｎｅｔｉｃｍｕｔａｔｉｏｎｐａｒｔｉｃｌｅｓｗａｒｍｏｐｔｉｍｉｚａｔｉｏｎＶＭＤａｎｄ
ｐｒｏｂａｂｉｌｉｓｔｉｃｎｅｕｒａｌｎｅｔｗｏｒｋａｌｇｏｒｉｔｈｍ
［
Ｊ
］
．ＩＥＥＥＡｃｃｅｓｓ
，
２０２０
，
８
：
１８４５６－１８４７４．
［
２０
］
ＹＡＮＧＺＬ
，
ＷＡＮＧＢ
，
ＤＯＮＧＸＨ
，
ｅｔａｌ．Ｅｘｐｅｒｔｓｙｓｔｅｍｏｆ
ｆａｕｌｔｄｉａｇｎｏｓｉｓｆｏｒｇｅａｒｂｏｘｉｎｗｉｎｄｔｕｒｂｉｎｅ
［
Ｊ
］
．Ｓｙｓｔｅｍｓ
ＥｎｇｉｎｅｅｒｉｎｇＰｒｏｃｅｄｉａ
，
２０１２
，
４
：
１８９－１９５
［
２１
］
赵晓平，吴家新，钱承山，等
．
基于多任务深度学习的齿
．
振动与冲击，
２０１９
，
３８
（
２３
）：
轮箱多故障诊断方法［
Ｊ
］
２７１－２７８．
ＺＨＡＯＸＰ
，
ＷＵＪＸ
，
ＱＩＡＮＣＳ
，
ｅｔａｌ．Ｍｕｌｔｉｆａｕｌｔｄｉａｇｎｏｓｉｓ
ＪｏｕｒｎａｌｏｆＶｉｂｒａｔｉｏｎａｎｄＳｈｏｃｋ
２０１９３８２３
·
２１
·
，，（）：
２７１－２７８
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
２２
］
ＳＭＩＴＨＡ
，
ＳＴＥＲＢＡＢＯＡＴＷＲＩＧＨＴＢ
，
ＭＯＴＴＪ．Ｎｏｖｅｌａｐ
ｐｌｉｃａｔｉｏｎｏｆａｓｔａｔｉｓｔｉｃａｌｔｅｃｈｎｉｑｕｅ
，
ｒａｎｄｏｍｆｏｒｅｓｔｓ
，
ｉｎａｂａｃ
ｔｅｒｉａｌｓｏｕｒｃｅｔｒａｃｋｉｎｇｓｔｕｄｙ
［
Ｊ
］
．ＷａｔｅｒＲｅｓｅａｒｃｈ
，
２０１０
，
４４
（
１４
）：
４０６７－４０７６．
［
２３
］
陈苏雨，方宇，胡定玉
．
基于随机森林方法的地铁车门故
Ｊ
］
．
测控技术，
２０１８
，
３７
（
２
）：
２０－２４．
障诊断［
ＣＨＥＳＹ
，
ＦＡＮＧＹ
，
ＨＵＤＹ．Ｓｕｂｗａｙｄｏｏｒｆａｕｌｔｄｉａｇｎｏｓｉｓ
ｂａｓｅｄｏｎｒａｎｄｏｍｆｏｒｅｓｔｍｅｔｈｏｄ
［
Ｊ
］
．Ｍｅａｓｕｒｍｅｎｔ＆Ｃｏｎｔｒｏｌ
Ｔｅｃｈｎｏｌｏｇｙ
，
２０１８
，
３７
（
２
）：
２０－２４
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
２４
］
杨雯，张锦水，朱秀芳，等
．
随机森林在高光谱遥感数
臖
．
北京师范大学学报（自然
据中降维与分类的应用［
Ｊ
］
２０１５
（
Ｓ１
）：
８２－８８．
科学版），
ＹＡＮＧＪＷ
，
ＺＨＡＮＧＪＳ
，
ＺＨＵＸＦ
，
ｅｔａｌ．Ｒａｎｄｏｍｆｏｒｅｓｔ
ａｐｐｌｉｅｄｆｏｒｄｉｍｅｎｓｉｏｎｒｅｄｕｃｔｉｏｎａｎｄｃｌａｓｓｉｆｉｃａｔｉｏｎｉｎｈｙｐｅｒ
ｓｐｅｃｔｒａｌｄａｔａ
［
Ｊ
］
．ＪｏｕｒｎａｌｏｆＢｅｉｊｉｎｇＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ
（
Ｎａｔ
ｕｒａｌＳｃｉｅｎｃｅ
），：
２０１５
，
５１
（
Ｓ１
）
８２－８８
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
２５
］
陈丽晶，张尚田，单添敏，等
．
基于多分类
ＳＶＭ
的航空逆
Ｊ
］
．
测控技术，
２０２２
，
４１
（
６
）：
４６－５０．
变器故障诊断［
ＣＨＥＮＬＪ
，
ＺＨＡＮＧＳＴ
，
ＳＨＡＮＴＭ
，
ｅｔａｌ．Ｆａｕｌｔｄｉａｇｎｏｓｉｓ
ｏｆａｖｉａｔｉｏｎｉｎｖｅｒｔｅｒｂａｓｅｄｏｎｍｕｌｔｉｃｌａｓｓｉｆｉｃａｔｉｏｎＳＶＭ
［
Ｊ
］
．
Ｍｅａｓｕｒｅｍｅｎｔ＆ＣｏｎｔｒｏｌＴｅｃｈｎｏｌｏｇｙ
，
２０２２
，
４１
（
６
）：
４６－５０
（
ｉｎＣｈｉｎｅｓｅ
）
．
□
ｍｅｔｈｏｄｆｏｒｇｅａｒｂｏｘｂａｓｅｄｏｎｍｕｌｔｉｔａｓｋｄｅｅｐｌｅａｒｎｉｎｇ
Ｊ．
［］
（
上接第
６
页
）
［
１４
］
２０２３１０５
ＧＹＡＭＦＩＥＤＥＬＩＡＪＵＲＣＵＴＡ．Ｎｏｖｅｌｏｎｌｉｎｅｎｅｔｗｏｒｋｉｎ
ｔｒｕｓｉｏｎｄｅｔｅｃｔｉｏｎｓｙｓｔｅｍｆｏｒｉｎｄｕｓｔｒｉａｌＩｏＴｂａｓｅｄｏｎＯＩ
ＳＶＤＤａｎｄＡＳＥＬＭ
Ｊ．ＩＥＥＥＩｎｔｅｒｎｅｔｏｆＴｈｉｎｇｓＪｏｕｒｎａｌ
，
４１７
（）：
１７５－１８４．
ＷＡＮＧＸＦ
，
ＷＡＮＧＹＸ
，
ＱＵＪＬ
，
ｅｔａｌ．Ａｎａｅｒｏｅｎｇｉｎｅ
，（）：
３８２７－３８３９．
［
１５
］
ＸＩＥＷＹ
，
ＵＨＬＭＡＮＮＳ
，
ＫＩＲＡＮＹＡＺＳ
，
ｅｔａｌ．Ｉｎｃｒｅｍｅｎｔａｌ
ｌｅａｒｎｉｎｇｗｉｔｈｓｕｐｐｏｒｔｖｅｃｔｏｒｄａｔａｄｅｓｃｒｉｐｔｉｏｎ
［
Ｃ
］
／／Ｐｒｏｃｅｅｄ
ｉｎｇｓｏｆｔｈｅ２０１４２２ｎｄＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＰａｔｔｅｒｎ
Ｒｅｃｏｇｎｉｔｉｏｎ．２０１４
３９０４－３９０９．
［］，
［］，，
４１
（
７
）：
１７５－１８４
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
２０
］
吕帅，龚晓宇，张正昊，等
．
结合进化算法的深度强化学
习方法研究综述［
Ｊ
］
．
计算机学报，
２０２２
，
４５
（
７
）：
１４７８－
ｄａｔａ
Ｊ．ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆＳｃｉｅｎｔｉｆｉｃＩｎｓｔｒｕｍｅｎｔ２０２０
１４９９．
ＬＹＵＳ
ＧＯＮＧＸＹＺＨＡＮＧＺＨｅｔａｌ．Ｓｕｒｖｅｙｏｆｄｅｅｐｒｅ
ｉｎｆｏｒｃｅｍｅｎｔｌｅａｒｎｉｎｇｍｅｔｈｏｄｓｗｉｔｈｅｖｏｌｕｔｉｏｎａｒｙａｌｇｏｒｉｔｈｍｓ
ｐｅｒｆｏｒｍａｎｃｅｍｏｎｉｔｏｒｉｎｇｍｅｔｈｏｄｂａｓｅｄｏｎｌａｒｇｅｓｃａｌｅｆｌｉｇｈｔ
：
［
１６
］
ＬＥＥＳＷ
，
ＰＡＲＫＪ
，
ＬＥＥＳＷ．Ｌｏｗｒｅｓｏｌｕｔｉｏｎｆａｃｅｒｅｃｏｇｎｉ
ｔｉｏｎｂａｓｅｄｏｎｓｕｐｐｏｒｔｖｅｃｔｏｒｄａｔａｄｅｓｃｒｉｐｔｉｏｎ
［
Ｊ
］
．Ｐａｔｔｅｒｎ
Ｒｅｃｏｇｎｉｔｉｏｎ
，
２００６
，
３９
（
９
）：
１８０９－１８１２．
［
１７
］
ＭＡＯＷＴ
，
ＣＨＥＮＪＸ
，
ＬＩＡＮＧＸＨ
，
ｅｔａｌ．Ａｎｅｗｏｎｌｉｎｅｄｅ
，，，
［
Ｊ
］
．ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆＣｏｍｐｕｔｅｒｓ
，
２０２２
，
４５
（
７
）：
１４７８－
１４９９
（
ｉｎＣｈｉｎｅｓｅ
）
．
［
２１
］
ＧＯＹＡＬＰ
，
ＤＯＬＬ?ＲＰ
，
ＧＩＲＳＨＩＣＫＲ
，
ｅｔａｌ．Ａｃｃｕｒａｔｅ
，
ｌａｒｇｅ
ｍｉｎｉｂａｔｃｈＳＧＤ
：
ｔｒａｉｎｉｎｇＩｍａｇｅＮｅｔｉｎ１ｈｏｕｒ
［
ＥＢ／ＯＬ
］
．
［
２０２２
ｔｅｃｔｉｏｎａｐｐｒｏａｃｈｆｏｒｒｏｌｌｉｎｇｂｅａｒｉｎｇｉｎｃｉｐｉｅｎｔｆａｕｌｔｖｉａｓｅｌｆａ
１１２２
］
．ｈｔｔｐｓ
：
／／ａｒｘｉｖ．ｏｒｇ／ａｂｓ／１７０６．０２６７７．
ｄａｐｔｉｖｅｄｅｅｐｆｅａｔｕｒｅｍａｔｃｈｉｎｇ
［
Ｊ
］
．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＩｎ
［
２２
］
ＴＡＸＤＭＪ
，
ＤＵＩＮＲＰＷ．Ｓｕｐｐｏｒｔｖｅｃｔｏｒｄａｔａｄｅｓｃｒｉｐｔｉｏｎ
ｓｔｒｕｍｅｎｔａｔｉｏｎａｎｄＭｅａｓｕｒｅｍｅｎｔ
，
２０２０
，
６９
（
２
）：
４４３－４５６．
［
Ｊ
］
．ＭａｃｈｉｎｅＬｅａｒｎｉｎｇ
，
２００４
，
５４
（
１
）：
４５－６６．
［
１８
］
ＷＡＮＧＱＦ
，
ＬＩＵＸＪ
，
ＷＥＩＢＫ
，
ｅｔａｌ．Ｏｎｌｉｎｅｉｎｃｉｐｉｅｎｔｆａｕｌｔ
［
２３
］
ＫＨＡＺＡＩＳ
，
ＳＡＦＡＲＩＡ
，
ＭＯＪＡＲＡＤＩＢ
，
ｅｔａｌ．Ｉｍｐｒｏｖｉｎｇｔｈｅ
ｄｅｔｅｃｔｉｏｎｍｅｔｈｏｄｂａｓｅｄｏｎｉｍｐｒｏｖｅｄ
ｔｒｅｎｄｆｉｌｔｅｒｉｎｇａｎｄ
ＳＶＤＤａｐｐｒｏａｃｈｔｏｈｙｐｅｒｓｐｅｃｔｒａｌｉｍａｇｅｃｌａｓｓｉｆｉｃａｔｉｏｎ
［
Ｊ
］
．
ｓｕｐｐｏｒｔｖｅｃｔｏｒｄａｔａｄｅｓｃｒｉｐｔｉｏｎ
［
Ｊ
］
．ＩＥＥＥＡｃｃｅｓｓ
，
２０２１
，
９
：
ＩＥＥＥＧｅｏｓｃｉｅｎｃｅａｎｄＲｅｍｏｔｅＳｅｎｓｉｎｇＬｅｔｔｅｒｓ
，
２０１２
，
９
（
４
）：
３００４３－３００５９．
５９４－５９８．
［
１９
］
王小飞，王元鑫，曲建岭，等
．
面向大样本飞参数据的航
．
仪器仪表学报，
２０２０
，空发动机性能监控方法［
Ｊ
］
□
１
版权声明：本文标题：面向大规模数据的SVDD在线学习算法 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://www.roclinux.cn/p/1712997310a616361.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。
发表评论