中国科学技术信息研究所--国家工程技术数字图书馆

[学位论文] 李博山西大学 2023年硕士导师: 杜宇慧共67页

摘要 : 不同于完全信任实例样本标签信息的有监督学习和只使用实例样本特征信息的无监督学习，弱监督学习假定实例样本中存在标签缺失、不可靠、错误的情况。因此，探寻如何从携带不准确信息的实例样本中挖掘有效信息并构建模型是弱监督学习的关键。偏标签学... 展开不同于完全信任实例样本标签信息的有监督学习和只使用实例样本特征信息的无监督学习，弱监督学习假定实例样本中存在标签缺失、不可靠、错误的情况。因此，探寻如何从携带不准确信息的实例样本中挖掘有效信息并构建模型是弱监督学习的关键。偏标签学习属于不准确监督学习类型的弱监督学习框架。在偏标签学习中，训练样本的标签并不是唯一和明确的，它的候选标签集中包含不准确的标签信息。偏标签学习的目的就是对候选标签集进行数据挖掘并建立标签预测模型，最终确定新样本的标签。大多数偏标签学习算法通过在原始标签基础上随机添加额外的标签生成候选标签集进行训练，这种做法没有很好地利用部分样本的可靠先验信息，从而导致建立的模型不适合现实情况中部分样本存在易混淆的候选标签的情况。此外，很多偏标签算法仅利用近邻节点来构建图，忽视了可靠度高的样本信息的重要性。同时，现实中的很多数据集都存在标签信息不完全准确的问题，能从不完全准确的标签信息中提取出有效信息的偏标签学习适用性更广。例如，由于人工标记成本昂贵，导致数据集仅能确保部分实例样本标签被标记；由于人工标注工作需要标注者极高的专业素养，部分数据存在标签歧义的问题。尤其是精神疾病诊断领域，高度异质性的精神疾病会出现症状重叠、病症相似的现象，导致医生难以确诊。偏标签学习很适合应用于神经影像数据，用来提取精神疾病的生物型。本文的主要研究内容如下：（1）针对如何生成更符合现实情况的候选标签集并有效利用可靠度高的样本信息这一问题，提出一种新的基于实例的近邻传播偏标签学习算法（Instance-based Nearest Neighbor Propagation-based Partial Label Learning， INNPL）。INNPL在候选标签集生成方面更好地利用先验信息，对可靠度高的样本仅采用原始的标签，不添加额外的随机标签，对其它样本在其原有标签基础上添加混淆程度高的标签作为候选标签集，迭代地根据近邻样本和可靠度高的样本建立和更新图结构，对样本分层逐步地进行标签传播，最终得到可靠的分类模型和分类结果。（2） INNPL算法有效性验证基于九种不同的数据进行测试，并和七种偏标签学习算法进行全面的比较。评估结果证实INNPL算法与其它方法相比具有更好的分类效果。（3）将INNPL算法应用于精神疾病数据上并确定受试者生物型。基于113名双相情感障碍（bipolar disorder with psychosis, BPP）患者、113名分裂情感障碍症（schizoaffective disorder , SAD）患者、113名精神分类症（schizophrenia , SZ）患者和113名健康对照组（healthy controls , HC）的功能核磁共振成像（functional magnetic resonance imaging, fMRI）数据，我们使用INNPL算法获得更有意义的生物型，显示出所识别的生物型与功能连接（Functional connectivity, FC）之间的显著差异。收起

关键词 : 精神疾病数据挖掘偏标签学习近邻传播

2. 基于ELM的化工过程生产预测及应用

[学位论文] 武昊北京化工大学 2020年硕士导师: 韩永明；顾祥柏共80页

摘要 : 化工过程是多线程、高能耗的复杂过程，因此通过对化工过程生产进行预测建模，找到能源高效利用的方式，是目前节能领域重要的一部分。相比于传统“三传（动量、能量、质量传递）一反（反应工程）”的机理建模方法，数据驱动的人工智能方法可以快速对... 展开化工过程是多线程、高能耗的复杂过程，因此通过对化工过程生产进行预测建模，找到能源高效利用的方式，是目前节能领域重要的一部分。相比于传统“三传（动量、能量、质量传递）一反（反应工程）”的机理建模方法，数据驱动的人工智能方法可以快速对维度高、关联性强的化工数据进行建模，通过对其过程生产进行预测来寻找提高能源利用率的方式。这种建模方法不但能够实现高维数据之间的有效融合，还能够简化模型结构。因此，针对当前化工过程生产中存在的高能耗及生产过程的复杂性及多样性问题，本文提出了一种新颖的数据驱动建模方法:基于近邻传播聚类算法（Affinity Propagation，AP）的极限学习机(Extreme learning machine，ELM)方法来对化工过程生产进行建模预测。本文所做的研究工作如下: 1、由于化工过程生产中的数据相互交叉，结构错综复杂，单纯采取神经网络对其数据进行建模不但模型的预测精度低，而且分析数据所花时间也较长，因此首先利用数据分析方法对原始数据进行预处理可以有效提高模型的预测精度。针对传统聚类算法在分析数据相关性方面存在效率低、人为干扰因素大等缺陷，提出了一种新型的聚类算法-AP聚类，并将其与其他典型的聚类算法进行了对比，如K-Means、模糊C-Means。最后通过UCI(University of Califomia Irvine)公共数据集对这三种聚类算法的有效性进行了验证，证明了AP聚类算法的准确性及优势。 2、针对传统反向传播(back propagation，BP)神经网络及径向基(radical basis function，RBF)神经网络在对高维冗余的生产数据进行建模时存在如预测精度低、泛化能力弱等诸多方面缺陷，提出了一种训练速度快、泛化能力强的ELM神经网络，并将其与AP聚类算法相结合形成了新颖的AP-ELM预测模型，通过乙烯及精对苯二甲酸(Pure Terephthalic Acid，PTA)实际过程生产中的数据对该模型进行了验证，证明了该模型在化工过程生产中的有效性。最后对乙烯及PTA生产的预测结果进行分析，通过合理配置所需原料，为化工过程中的节能研究提供理论依据。 3、为了将本文提出的新颖模型应用于化工过程生产中，本文基于C/S框架，利用C#编程语言以及Mysql数据库搭建了化工过程生产原型预测系统，以乙烯和PTA装置的实际生产数据作为系统的模拟对象，通过对系统的需求分析、概要设计及详细设计进行详述，从而从实际应用角度验证了所提出模型的可靠性与有效性。本文针对化工过程生产目前存在能源利用率低、原料消耗大等问题，提出了一种新颖的数据驱动建模预测方法-AP-ELM方法，并通过乙烯过程生产和PTA过程生产中的实际数据对所提出的模型进行了验证，最后通过搭建化工过程生产预测系统，将该预测模型应用于实际化工过程生产当中，为化工过程生产中的节能研究提供理论指导。收起

关键词 : 化工过程生产预测极限学习机近邻传播聚类

3. 云环境下DDoS攻击检测算法的研究

[学位论文] 王忠文华侨大学 2018年硕士导师: 刘艳;陈永红共75页

摘要 : 近年来，云计算已经成为互联网的主流计算模式。云计算具有按需自服务、泛在接入、资源池化、弹性服务和服务可度量等特性。云计算提供三种服务模式：基础设施即服务、平台即服务和软件即服务。基于云计算的特性和服务模式，云计算用户可以自由的租用... 展开近年来，云计算已经成为互联网的主流计算模式。云计算具有按需自服务、泛在接入、资源池化、弹性服务和服务可度量等特性。云计算提供三种服务模式：基础设施即服务、平台即服务和软件即服务。基于云计算的特性和服务模式，云计算用户可以自由的租用云服务来满足自身的计算需求。云计算资源可以按需获取，使得云计算服务的用户可以大幅降低计算成本和维护成本。虽然云计算有诸多优势和便利，但安全因素仍然是无法忽视的问题。在云平台面临的诸多安全问题中，DDoS攻击是影响云平台服务可用性的主要安全威胁。一方面，传统的 DDoS 攻击针对云环境依然有效。另一方面，针对云环境的新模式也诞生了新型的DDoS攻击，例如EDoS攻击。且近年来IOT设备处在数量爆发期，使得僵尸网络大幅增加，云环境面临的 DDoS 攻击会进一步增多。因此，研究云环境下的DDoS攻击防御是非常必要的。而云环境下的DDoS攻击检测作为 DDoS 攻击防御的第一道防线，显得尤为重要。本文针对云环境面临的DDoS攻击提出了以下两种方法：提出了基于近邻传播和混沌分析的 DDoS 攻击检测方法。针对云环境下，主机数量规模大，主机流量行为差异大和流量复杂度高等特点，先用近邻传播算法对主机根据流量行为特征进行聚类。再对每个主机类的流量利用时间序列建立预测模型，引用混沌分析方法分析流量预测误差，根据Lyapunov指数的大小来判断主机类的流量是否存在DDoS攻击。提出基于深度学习模型的 DDoS 攻击检测方法。通过分析云环境下网络流量的结构特征，结合 DDoS 攻击的实现原理，引入深度学习模型。并设计适用于 DDoS 攻击检测的流量处理方法将流量输入模型。利用深度学习模型的学习和分析能力，对云环境中的流量进行识别，以达到检测DDoS攻击的目的。在进行 DDoS 攻击检测的理论研究的同时，本文尝试将理论应用于实际场景，设计了云环境的 DDoS 攻击实验平台。结合硬件设施和软件工具等构建了完整的攻击方到被攻击方链条。通过网络流量捕获模块获取真实的流量数据，再利用检测算法模块进行检测，使得实验更接近现实网络。收起

关键词 : 云计算 DDoS攻击近邻传播算法深度学习网络流量捕获

4. 基于集成学习的基因选择与样本分类研究

[学位论文] 尉双云大连理工大学 2014年硕士导师: 孟军共53页

摘要 : 基因芯片技术为疾病诊断、治疗以及新药物的开发提供了新的方法和手段。同时，基因芯片技术的运用也产生了大量的疾病相关的基因表达数据。对这类数据进行分析和处理，使人们能够从基因分子层面上了解癌症的发病机制，从而更加准确地进行癌症的诊断，... 展开

关键词 : 基因表达数据特征选择近邻传播聚类集成学习样本分类

5. 面向可靠通信的VANETs分簇路由算法研究

[学位论文] 郭百顺合肥工业大学 2020年硕士导师: 毕翔;马克刚共61页

摘要 : 车载自组织网络(Vehicular Ad-hoc Networks, VANETs)作为智能交通系统的重要组成部分，为解决道路通行效率和车辆安全行驶等关键问题提供了灵活且快速的数据传输支持。然而，车辆的高机动性和行驶轨迹的随机性，使得VANETs的拓扑结构呈现出瞬变性和易... 展开车载自组织网络(Vehicular Ad-hoc Networks, VANETs)作为智能交通系统的重要组成部分，为解决道路通行效率和车辆安全行驶等关键问题提供了灵活且快速的数据传输支持。然而，车辆的高机动性和行驶轨迹的随机性，使得VANETs的拓扑结构呈现出瞬变性和易变性。同时，道路行驶条件的差异性，也带来了网络节点分布的不均匀性，这些都为VANETs中数据的可靠传输带来了严峻的挑战。就VANETs这样具有一定规模的自组织网络而言，分簇方法能够有效提升网络的稳定性，从而有助于数据的可靠传输。鉴于此，论文提出了一种新的全局近邻传播分簇算法。并在获取的分簇结构基础上，又提出了一种基于强化学习的可靠分簇路由算法。论文的主要研究工作如下： 1.首先，通过引入通信相关参数重构了近邻传播算法的相似性函数，使得具有低相对机动性和高通信性能的车辆更容易成为簇头；其次，在形式化定义三个尺度函数的基础上，实现定量评估车辆加入簇对簇稳定性的影响；接着，从全局竞争的角度，设计了一种多簇头并存情况下簇头的选择机制；最后，针对三种状态的车辆，结合簇头选择、簇形成和簇维护过程，给出了车辆状态的转换过程，由此提出了一种新的全局近邻传播分簇算法。针对不同交通场景的仿真实验表明，该算法在簇稳定性指标上总体优于现有同类算法。 2.在借助所提出的分簇算法获取的稳定簇结构基础上，首先通过选取簇头和网关车辆作为数据跨簇传输的中继车辆，来降低路由建立过程中路由请求消息的转发量，以避免出现广播风暴问题；其次，通过引入链路持续时间、链路通信速率、方向因子和拥塞因子等评价因素，重构了强化学习算法的奖励函数，以提高路由的生存时间和通信质量；最后，从Q表结构更新和Q表数值更新角度，分别给出了路由建立和路由维护的实现过程。同时，为了提高车辆在高机动性场景下数据传输的可靠性，确保所建立路由的有效性，依据“边传输边发现”思想，给出了动态路由建立过程，由此提出了一种基于强化学习的可靠分簇路由算法。针对不同交通场景的仿真实验表明，该算法相比同类算法，有较好的通信性能。综上所述，论文围绕VANETs可靠通信开展的研究工作及取得的研究成果，不仅满足了VANETs中基于车-车(Vehicle-to-Vehicle，V2V)通信的实际数据传输需求，还进一步丰富了VANETs分簇及路由的方法和理论，对支撑智能交通系统有效解决各类交通问题具有重要的理论和现实意义。收起

关键词 : VANETs算法近邻传播算法强化学习算法可靠通信

6. 基于近邻差波动和图标签传播的离群点检测算法

[学位论文] 邓禹燕山大学 2022年硕士导师: 张忠平;章德斌共71页

摘要 : 离群点检测技术是数据挖掘领域的一个重要研究分支，其在入侵检测、欺诈检测和医疗卫生检测等领域发挥着重要的作用。近年来，国内外学者提出了众多离群点检测方法，但是这些方法都存在着各种缺陷，在很多数据集上存在检测精度不佳的问题，因此本文针... 展开离群点检测技术是数据挖掘领域的一个重要研究分支，其在入侵检测、欺诈检测和医疗卫生检测等领域发挥着重要的作用。近年来，国内外学者提出了众多离群点检测方法，但是这些方法都存在着各种缺陷，在很多数据集上存在检测精度不佳的问题，因此本文针对现阶段的离群点检测方法存在的问题进行研究，提出了新的离群点检测方法。首先，针对基于近邻关系的离群点检测方法存在边界区域点检测精确度不高和内部点计算耗时的问题，提出了一种基于近邻差波动因子的离群点检测新方法。该方法依据离群点的相互近邻点数远小于k近邻点数这一特点，给出了一种基于近邻关系的剪枝方法；定义近邻差的概念来刻画数据对象与其邻居点的分布特征，在变化的参数k下，离群点和内部点的近邻差的变化不同，采用近邻差波动衡量每个数据点的离群程度，进而检测出离群点；并对所提算法进行正确性和时间复杂度的分析。其次，针对基于图标签传播的离群点检测算法存在只能检测聚类离群点和参数k难以确定等问题，提出了一种基于局部信息图标签传播的离群点检测新方法。算法依据相互近邻关系，设计了一种自适应参数k值的计算方法；利用参数k和近邻关系构建局部近邻图，生成局部相似性矩阵和转移概率矩阵，再循环标记每个数据点，对每个数据点进行有限次的标签传播，离群点和内部点标签传播收敛速度不同，统计每个点的收敛值差；将数据点的收敛值差和相互近邻个数相结合作为离群因子，刻画数据对象的离群程度，进而检测到离群点；并分析了所提算法的正确性和时间复杂度。最后，以精确率、召回率和AUC值为评价指标，在人工数据集和真实数据集上对所提算法和其它几种算法进行实验对比，验证了本文所提算法的有效性。收起

关键词 : 数据挖掘离群点相互近邻近邻差波动因子标签传播

7. 机器学习在光谱巡天中的应用研究

[学位论文] 司建敏中国科学院大学 2014年博士导师: 吴毅红;罗阿理;赵永恒共134页

摘要 : 随着望远镜技术的发展，光谱巡天的光谱获取能力越来越强，最具有代表性的多目标光纤数字巡天项目有美国的Sloan Digital Sky Survey(SDSS)和中国的Large SkyArea Multi-Object Fiber Spectroscopic Telescope(LAMOST)。SDSS观测能力由Ⅰ期同时观测64... 展开随着望远镜技术的发展，光谱巡天的光谱获取能力越来越强，最具有代表性的多目标光纤数字巡天项目有美国的Sloan Digital Sky Survey(SDSS)和中国的Large SkyArea Multi-Object Fiber Spectroscopic Telescope(LAMOST)。SDSS观测能力由Ⅰ期同时观测640个目标增加到Ⅲ期同时观测1000个目标，目前共发布了400多万条光谱;LAMOST光谱获取能力更强，每次观测能获得4000条光谱，每个观测夜能获取近2万条光谱，目前仅仅两年的时间已经发布了200多万条光谱。在海量的光谱中存在着许多稀有的有意义的特殊天体，利用机器学习算法快速有效的搜寻这些有意义的特殊天体对特殊天体的后继研究和分析具有非常重要的意义。针对这个问题，本文的主要工作如下: 1)在SDSS海量光谱中应用标记传播学习算法成功搜寻1573个碳星和188个DZ白矮星，其中260个碳星和29个DZ白矮星是新发现的，还搜寻到11个包含碳星成分和白矮星成分的复合系统。通过自行速度，96个碳星被确认为矮碳星，7个被确认为巨碳星;通过对11个复合系统分解确定了10个白矮星成分类型为DA型白矮星，1个为非常稀有的热的PG1159型白矮星，这些都是特殊的天体，其中一部分很可能是非常稀有的DA/dC双星系统，它们对于研究恒星演化和银河系动力学都有着非常重要的意义;通过PCA重构确定了这些新发现的DZ白矮星都是典型的DZ白矮星;通过和SDSS白矮星自行速度对比，新发现的DZ白矮星与目前被SDSS观测到的白矮星一样有较大的自行速度;通过拟合有效温度与g-r的颜色的关系确定了DZ白矮星的有效温度，在29个DZ白矮星中有12个温度较低，其中9个有效温度在6000K到6600K之间，3个低于6000K，这些DZ白矮星的发现进一步填充了DZ白矮星的低温序列。 2)应用快速的流形排序学习算法在LAMOST海量光谱中搜索碳星。分析了算法在不同参数取值和不同特征下的性能，将中值滤波的光谱和扣除连续谱的同时作为特征时，能够极大的提高算法的性能，并且对参数取值有很强的鲁棒性。此外，该算法速度快，内存占有少，能够应用于在光谱获取率极高的LAMOST光谱巡天数据中搜寻感兴趣天体。利用该算法在LAMOST先导巡天数据717，660条光谱中共搜寻到183个碳星和1个由碳星成分和PG1159型白矮星成分组成的复合系统，其中158个碳星是我们新发现的。根据光谱的特征，58个被分类为C-H型，11个为C-H型候选体，56个为C-R型，10个为C-R型候选体，30个为C-N型，3个为C-N型候选体，4个为C-J型，10个因为光谱质量差而没有对其光谱型分类。在C-N型碳星中有1个非常特殊，它的光谱中有很明显的CaⅡ H&K吸收线，这在C-N星中是非常罕见的;利用模板匹配和Cj-index的方法确认了C-J型碳星，依据自行速度，确认了21个矮碳星;分析了不同光谱型和光度型在JHKs空间中的分布，利用SVM算法给出了基于JHKs测光的C-H和C-N型碳星的最优分类面;与星表GALEX交叉匹配，发现3个可能的碳双星;通过和Northern SkyVariability Survey(NSVS)数据库、Catalina巡天数据库和LINEAR数据库交叉，发现了5个变星，其中4个具有明显的光变周期。通过拟合光变数据，我们确认了3个为半规则，1个为Mira变星。 3)提出一种基于核密度和K-近邻(K-nearest neighbors，KNN)相结合的算法，在SDSS DR8的656，801条恒星光谱中搜寻出很多有意义的特殊天体和未知天体。我们对比了核密度估计算法和核密度估计与KNN相结合的算法搜寻稀有天体的性能，结果表明核密度估计与KNN相结合的算法性能明显优于核密度估计。对21，193条离群光谱数据进行聚类后，发现这些数据主要包括由于数据缺失、红化、流量定标不准引起的问题光谱、行星状星云、没有物理联系的光谱双星、类星体、特殊白矮星(DZ、DQ、DC)、碳星、白矮主序双星和激变变星等。将这样目标和SIMBAD、NED、ADS数据库以及相关文献进行交叉验证，新发现了3个DZ白矮星、1个白矮主序双星、2个伴星为G型星的激变变星，4个激变变星的候选体、6个DC白矮星、1个DC白矮星候选体和1个BLLacertae(BL Lac)候选体。同时还发现了1个有CaⅡ三重发射线和MgI发射线的DA白矮星和1个未识别的特殊天体。收起

关键词 : 光谱巡天技术标记传播学习算法流形排序学习算法核密度估计 K-近邻算法

8. 基于主题特征中心的微学习单元的层次聚类研究

[学位论文] 丁丽太原理工大学 2019年硕士导师: 张月琴共69页

摘要 : 随着现代信息技术的迅猛发展，Web2.0时代开启了人类史上真正有意义的互联网在线学习之旅。信息运行载体和传播形态的改变导致学习内容碎片化，快节奏生活和多任务处理导致学习时间碎片化。此外，信息更新周期缩短带动了终身学习时代的到来。在碎片化... 展开随着现代信息技术的迅猛发展，Web2.0时代开启了人类史上真正有意义的互联网在线学习之旅。信息运行载体和传播形态的改变导致学习内容碎片化，快节奏生活和多任务处理导致学习时间碎片化。此外，信息更新周期缩短带动了终身学习时代的到来。在碎片化学习和终身学习的大数据背景的推动下，构建主义学习观催生了一种新型学习范式——微学习。微学习的学习单元松散链接、动态重组，有利于拓展学习者的发散思维。微学习资源可按需提供，学习时间可控且灵活，学习兴趣易维持，学习效率更高等优势，因此微学习这种新型学习范式得以迅猛发展。 Web2.0改变早期网络的“单行道”架构，让大众可以向网络发送并分享信息，微学习利用这一功能，推开“微”时代的大门。随着微学习的兴起，越来越多的微学习平台不断建立和发展，大规模开放式在线课程MOOC(Massive OpenOnline Courses)作为代表性的微学习平台之一，通过MOOC进行学习逐渐成为一种趋势。然而，微学习平台的发布者不是唯一的，大量学习资源的发布使得学习内容多源，即重复问题，学习者浪费大多时间在资源选择上，导致学习效率低下。因此，合理地组织和管理微学习资源是微学习研究的基础核心方向。微学习资源是由松散动态联结的微学习单元组成，微学习单元的组织形式可分为文本、图片和视频等。其中，视频形式的资源深受大众欢迎，能够激发学习的乐趣，且大量存在于微学习平台中。本文将视频形式的微学习单元作为研究对象，通过分析将视频字幕转录本作为微学习单元的特征，对微学习单元的视频字幕转录本采用聚类相关技术进行合理地组织微学习资源。本研究主要工作如下： (1)通过分析微学习，重点研究了MOOC平台中视频形式的微学习资源。本文将每个微学习视频看作一个微学习单元，对每个微学习视频的文本字幕转录本进行分析。另外对比分析常用文本聚类的优劣，重点研究了层次聚类技术和AP聚类技术。 (2)通过分析微学习单元存在的层次结构和聚集特性，本文针对凝聚层次聚类算法不能处理大规模数据和该算法终止条件模糊且不可回溯的不足，创造性地采用了发现优质代表点的融合层次聚类技术。本算法的主要思想是：首先运用AP算法得到类代表点和相应的聚类簇，然后结合快速密度峰值算法对AP进行优化以发现优质类代表点，最后运用凝聚层次聚类技术构建簇内关系结构树和簇间关系结构树，完成基于主题特征中心发现的层次聚类技术。 (3)通过分析文本聚类技术使用到的相关算法，结合微学习单元特点，构建了微学习单元文本主题中心发现的层次聚类系统模型，并且通过实验进行了具体的实现。其主要分为三大阶段，依次为微学习单元文本前期预处理阶段、文本模型表示阶段和文本聚类阶段。前期预处理阶段又分为文本分词、去除噪声词和词干提取，文本模型表示阶段采用LDA模型对微学习单元主题进行建模，文本聚类阶段包括JS距离作为文本相似度和本文设计的聚类方法的实现。本文在微学习单元的字幕转录本数据集上分别采用k-means、HAC算法和本文算法作对比实验，实验证明采用基于主题特征中心发现的层次聚类方法对微学习单元具有较好的聚类结果，其聚类划分结果更加准确。收起

关键词 : 微学习单元主题特征中心近邻传播聚类算法快速密度峰值算法

9. 基于近邻传播聚类与集成学习的说话人识别

[学位论文] 张辰西南科技大学 2019年硕士导师: 张华共64页

摘要 : 说话人识别技术相较于其他生物识别技术更加自然，但从技术成熟度来讲，说话人识别技术仍然是在发展中的生物识别技术。目前说话人识别技术中存在两方面的技术难题，从特征提取角度来看，由于人体发声系统的易变性，需要从大量的语音样本中提取说话人... 展开说话人识别技术相较于其他生物识别技术更加自然，但从技术成熟度来讲，说话人识别技术仍然是在发展中的生物识别技术。目前说话人识别技术中存在两方面的技术难题，从特征提取角度来看，由于人体发声系统的易变性，需要从大量的语音样本中提取说话人的声纹特征，大量冗余样本的存在为训练分类模型带来了极大困难。从识别方法角度来看，采用单分类器的说话人识别系统的泛化能力较弱，分类器的分类精度较低。针对上述问题，本文做了如下研究：（1）针对不同应用环境的语音信号特征提取方法。在现实环境中说话人发声过程中存在不同程度的噪声干扰，针对不同噪声环境采用正确的语音特征才能实现对说话人特征的有效表征。通过真实场景的实验对比研究，针对强噪声环境，提取梅尔频率倒谱系数及其差分系数作为单帧信号的特征能够有效地去除噪声影响，对语音信号的表征能力较好；针对弱噪声环境，幂率归一化倒谱系数及其差分系数作为单帧信号的特征可以在相同计算复杂度下更好的表征语音信号。（2）基于近邻传播（AP）聚类的声纹特征样本筛选方法。针对说话人声纹样本数量过大导致分类器训练成本较高问题，利用 AP聚类对单帧信号特征样本集进行聚类，原型样本在其簇内具有典型代表性，利用聚类原型样本表征与其相似的样本，删除冗余样本，实现语音信号特征样本筛选。在实际数据集上的对比实验表明，本文提出的样本筛选方法在保证识别准确率的基础上，能够有效压缩训练样本集合，压缩率能够达到85.19%-92.95%，从而大幅降低分类器训练成本。（3）基于集成学习的说话人识别系统构建方法。针对单分类器说话人识别模型泛化能力较弱的问题，通过多次随机抽样抽取训练样本子集，采用随机 BP神经网络算法参数扰动策略建立多个BP神经网络分类模型，并利用投票法确定最终的分类结果。实验结果表明，该方法有效克服了基于单分类器说话人识别系统泛化能力不足的问题，使得系统识别率得到了有效提升。无论是高保真的AISHELL中文数据库的实验结果还是针对不同噪声环境下采集的自采集数据库的实验结果，都表明了本文所提方法的有效性。本文所提出的近邻传播聚类方法能在保证表征说话人本征特征的同时降低网络训练成本，提出的基于多BP神经网络的集成学习框架提高了说话人识别系统的泛化能力与准确性，丰富了说话人识别技术的相关理论和实践。收起

关键词 : 说话人识别近邻传播聚类声纹特征集成学习 BP神经网络

10. 基于半监督学习的两种聚类算法研究

[学位论文] 熊尚华浙江师范大学 2011年硕士导师: 王基一共64页

摘要 : 在机器学习领域,有监督学习和无监督学习是两种常用的学习算法。有监督学习中学习器通过对大量有标签数据的学习,从而建立起用于预测无标签数据标签的模型；无监督学习则是在没有任何数据的先验知识下对数据进行分析从而自动完成数据的聚集。事实上,在... 展开在机器学习领域,有监督学习和无监督学习是两种常用的学习算法。有监督学习中学习器通过对大量有标签数据的学习,从而建立起用于预测无标签数据标签的模型；无监督学习则是在没有任何数据的先验知识下对数据进行分析从而自动完成数据的聚集。事实上,在许多实际应用中,经常会面临有标签数据在数量上的不足,或者是需要耗费很大的人力、物力和时间去标注数据,而完全不采用数据的一些先验知识的无监督学习往往不能得到有效的聚类效果。半监督学习方法就是用来处理大量的无标签数据和少量有标签数据的学习方法。半监督学习结合了两种传统学习算法的优势,它将少量“昂贵的”有标签数据和大量“廉价的”无标签数据有机地结合在一起,并将其作为先验知识用于指导学习的过程,较传统的机器学习算法能够获得较好的学习效果。半监督学习在理论研究和实际应用中都有着重大的意义。本文以半监督学习为基础,主要研究了两种基于半监督学习的聚类算法,在当前经典聚类算法的基础上进行半监督推广。在聚类分析的很多实际问题中,往往可用的成对约束集较少,考虑将数据集本身存在的空间结构信息和性质加以利用,从而自动完成约束集的扩展。本文研究了三种成对约束集扩展的方法:(1)依据成对约束的二值传递关系进行约束扩展。(2)在半监督学习的两类假设的基础上定义基于流形的密度敏感距离来取代传统的欧式距离,然后基于流形的密度敏感距离对数据成对约束进行扩展。(3)基于主动学习的策略来完成数据成对约束的扩展,目的是挖掘出具有代表性的成对约束对,从而能对聚类算法起到积极的指导作用。将扩展的约束集集成数据降维和聚类,即在投影空间中使用基于成对约束的K均值算法对数据聚类,算法不仅能够处理高维数据和降低基于约束的半监督聚类算法的计算复杂度,而且能够有效解决聚类过程中成对约束的违反问题和提高聚类效果。基于中心划分的聚类方法,面临的一个问题是不适用于多重尺度及任意空间形状的数据聚类处理,因此对于聚类结构比较复杂的数据集,聚类算法往往不能得到很好的聚类结果。另外对于比较松散聚类结构,AP算法倾向于产生较多的局部聚类。本文提出一种基于空间一致性的半监督近邻传播聚类算法,算法首先利用扩展的成对约束信息对数据点进行成对约束调整,构造稀疏距离矩阵。其次从整个数据观测空间完成基于密度的流形搜索,用以判别空间数据的不同流形分布。对于流形分布全局而言,通过函数变换完成不同流形上数据点对之间的距离度量的缩小或放大；而对于局部而言,将处在同一流形上的数据点映射成近邻传播算法容易处理的超球形或超椭球形的凸分布形状。仿真实验验证了本文算法较于传统的AP算法和其他经典的基于中心划分的聚类算法具有更好的聚类效果。收起

关键词 : 半监督学习成对约束近邻传播先验知识聚类算法