拟概率空间上学习理论关键定理和学习过程一致收敛速度界.pdfVIP

第 31卷 第 3期 计 算 机 学 报 Vo1．31 NO．3 2008年 3月 CHINESEJOURNAL OF COMPUTERS M ar．2008 拟概率空间上学习理论的关键定理 和学习过程一致收敛速度的界 哈明虎” 冯志芳 宋士吉 高林庆” (河北大学数学与计算机学院 河北 保定 071002) (廊坊师范学院数学与信息科学系 河北 廊坊 065000) (清华大学 自动化系 北京 100084) 摘 要 进一步讨论 了拟概率 的一些性质 ，给出了拟概率空间上 的拟随机变量及其分布函数、期望和方差的概念 及若干性质 ；证 明了拟概率空间上 的Markov不等式、Chebyshev不等式和 Khinchine大数定律 ；给出并证 明了拟概 率空间上学习理论 的关键定理和学习过程一致收敛速度 的界，把概率空间上的学习理论的关键定理和学习过程一 致收敛速度的界推广到了拟概率空间，为系统地建立拟概率上的统计学习理论与构建支持向量机奠定了理论基础． 关键词 拟概率 ；期望风险泛函；经验风险泛函；关键定理 ；一致收敛速度 的界 中图法分类号 TP18 TheKeyTheorem andtheBoundsontheRateofUniform Convergenceof StatisticalLearningTheoryonQuasi—ProbabilitySpaces HA Ming—Hu FENG Zhi—Fang SONG Shi—Ji” GAO Lin—Qing ”(CollegeofMathematicsandComputerSciences，HebeiUniversity，Baoding，Hebei 071002) ”(DepartmentofMathematicsandInformationSciences，LangfangNormalSchool，Langfang，Hebei 065000) ”(DepartmentofAutomation，TsinghuaUniversity，Beijing 100084) Abstract Somepropertiesofquasi—probabilityarefurtherdiscussed．Thedefinitionsandproper— tiesofquasi—random variableanditsdistribution function，expectedvalueandvariancearethen presented．Markovinequality，ChebyshevSinequalityandtheKhinchineSlaw oflargenumbers onquasi—probabilityspacesarealsoproved．Then thekeytheorem oflearningtheoryon quasi— probability spacesisproved，and theboundson therateofuniform convergenceoflearning processonquasi—probabilityspacesareconstructed．Theinvestigationswillhelplayessentialthe— oreticalfoundationsforthe systematicand comprehensive developmentofthequasi—statistical learningtheory． Keywords quasi—probability empiricalrisk functional；expectedriskfunctional；keytheorem ；