不确定成对约束的对抗流形传播方法研究.pdf

摘要

摘要

成对约束作为一种监督信息，比标签信息更加泛化，被应用于各类机器学习问题的

解决。但是，可获得的初始成对约束关系是非常有限的，为了获得更多的成对约束关系，

许多成对约束传播（PairwiseConstraintPropagation,PCP）方法应运而生。在现有的成对

约束传播方法中，通常是在初始获得的成对约束关系是精确可靠的基础上，研究如何通

过传播学习来增加成对约束的数量。然而，随着大数据和人工智能的快速发展，在现实

场景中，数据信息的不确定性更加明显。对于成对约束而言，除了精确的信息以外，往

往还存在着一些不确定的信息，这些信息对于成对约束的传播也具有重要意义。因此，

如何利用这些不确定的成对约束信息来提高成对约束的传播效果是一个有待解决的问

题。针对这一问题，本文的研究如下：

首先，通常情况下，可以获得的精确的成对约束关系极少，例如，当初始成对约束

信息来源于用户反馈时，由于其没有掌握专业的知识和完善的判断方法，很难对提供的

成对约束信息具有十足的把握，但是往往可以提供一些关于两个数据属于同一类别的可

能性。针对这种指示两个样本类别相同的可能性的信息，提出了一种含不确定必须链接

的成对约束的双对抗流形传播方法（PairwiseConstraintPropagationwithUncertainMust-

link,UMPCP）。主要思想是在原有的精确的初始成对约束的基础上，使用一个矩阵添

加一些关于不确定必须链接（must-link）的可能性，这个可能性在传播的过程中受不能

链接（cannot-link）矩阵的对抗影响，另外，必须链接和不能链接本身在传播中也存在对

抗关系，这两种对抗相结合，形成一个新的对抗强度，从而作用于成对约束的流形正则

化传播中。通过实验证明，必须链接的可能性信息有效作用于传播过程，在提高了成对

约束传播效果的同时，更符合现实场景的应用。

值得注意的是，不确定必须链接的加入只对必须链接的传播效果具有显著影响，而

想要提高成对约束整体的传播效果，需要对不确定信息挖掘得更全面，所以，我们又关

注到不能链接的可能性信息，并提出了一种不确定成对约束的双对抗流形传播方法

（UncertainPairwiseConstraintPropagation,UPCP）。在这一方法中，模仿UMPCP模型

中对必须链接不确定性的定义，加入不能链接的可能性信息，将其中的双对抗结构，改

造成两种可能性之间的对抗与两种约束之间的对抗相结合的形式，使必须链接和不能链

接的对抗强度在竞争中趋于最小化。实验结果表明，UPCP方法在提高传播精度的同时，

克服了UMPCP模型对不确定信息应用的片面性。

关键词：成对约束；不确定信息；对抗关系；流形正则化；成对约束传播

I

Abstract

Abstract

Pairwiseconstraints,asatypeofsupervisedinformation,aremoregeneralizedthanlabel

informationandareappliedtosolvevariousmachinelearningproblems.However,theinitial

pairwiseconstraintrelationshipsavailableareverylimited.Inordertoobtainmorepairwise

constraintrelationships,manypairwiseconstraintpropagation(PCP)methodshaveemerged.

Inexistingpairwiseconstraintpropagationmethods,itisusuallystudiedhowtoincreasethe

numberofpairwiseconstraintsthroughpropagationlea