安全通论课件-对话的数学理论.pptxVIP

第8章---对话的数学理论第八章 对话的数学理论人类历史，几乎就是一部对话史！最早的人类，就像现在的动物那样，通过叫声和肢体动作来彼此对话，交流信息，沟通情感；后来有了语言，才开始了真正意义上的对话；再后来，有了文字、图像等，使得对话的手段更加丰富，对话的效果更好；如今，网络和多媒体的广泛使用，使得对话（特别是群体对话）在生活中的份量越来越重。但是，古往今来，好像很少有人全面、深入、认真地思考过对话的本质！其实，对话可以分为三大类（协作式对话、骂架式对话、法庭辩论式对话，其中后两种对话是非协作式的）：第8章：对话的数学理论1.协作式对话（通信）与问题的提出2.辩论式对话8.1 协作式对话（通信）与问题的提出首先来看“协作式对话”。这是最常见的对话，此时对话双方 的目标就是共同努力，减少或消除彼此之间的不确定度（熵，或叫“信息熵”）。研究协作式对话（又叫“通信”）最成功的理论，当数香农创立的《信息论》，其核心概念包括：1）概率为p的随机（话语）事件，它所包含的信息量为log(1/p)；2）由n个概率分别为p1、p2、…、pn，p1+p2+…+pn=1，的随机（话语）事件所组成的随机（话语）变量X，所包含的信息量为 H(X)=∑ni=1pilog(1/pi)8.1 协作式对话（通信）与问题的提出3）设X和Y分别是对话双方的随机（话语）变量，那么，条件概率事件p(Y=y│X=x)，简记为p(y│x)，所包含的信息量为log(1/p(y│x))。条件随机变量p(Y│X=x)，简记为p(Y│x)，所包含的信息量为 H(Y│X=x)=∑y∈Y p(y│x)log(1/p(y│x)) 它也是在条件X=x下，条件随机变量的概率密度条件分布的熵（由于已经暗含协作式假定，所以，与上面的2）类似，此时只考虑了加权和，而没有减法）。而当X取遍随机变量X的所有可能值后，条件分布熵的加权和 ∑x∈X p(X=x)H(Y│X=x)=H(Y│X)就称为条件熵（再一次地，这里又暗含了协作式假设，所以，整体熵也是部分熵之和，而没有减法）。8.1 协作式对话（通信）与问题的提出4）设X和Y分别是对话双方的随机（话语）变量，由于Y的贡献，使得X的熵H(X)最多被减少H(X│Y)，于是，称被减少后的剩余熵量H(X)- H(X│Y)为X和Y的互信息，记为I(X;Y)。此处再一次暗含了协作式假定，即，Y的贡献是积极贡献，即，Y必定减少整体熵，而不是增加熵。8.1 协作式对话（通信）与问题的提出5）随机变量X和Y，在给定随机变量Z的条件下，的条件互信息定义为： I(X;Y│Z)=H(X│Z)-H(X│Y,Z)这里暗含的协作式假定痕迹也很明显。于是，香农的整个《信息论》研究的就是在协作式对话中：（1）如何把话语X中的冗余信息进行充分压缩，使得其信息量达到最小值H(X)，这便是香农第一定理（信源编码定理）；（2）由于Y的积极贡献，使得有I(X;Y)的信息量能够被传达给对话的另一方，那么，I(X;Y)的最大值（即，香农称为信道容量C的东西）是多少，又如何把这最大值的信息量无失真地传达给另一方，这便是香农第二定理（信道编码定理）。8.1 协作式对话（通信）与问题的提出半个多世纪以来，经过香农、维纳等全世界科学家们的不懈努力，人类已经在信息论及其应用方面取得了巨大成就，甚至建成了如今的信息社会。但是，必须指出：所有这些成果，都有一个暗含的假设：即，通信或对话双方（多方）是彼此协作的，其目的是一致的，都是要想共同努力减少熵，或者说减少不确定度，而采用的手段便是增加信息。难道对话真的只有“协作式对话（通信）”这一种吗？！8.1 协作式对话（通信）与问题的提出在1950年之前，也许全人类都没有注意到这个问题；因为，甚至在维纳的名著《控制论》，都处处隐含了“协作式对话”的痕迹。直到1950年，维纳出版了他的另一本重要著作《人有人的用处》，才明确提出了这个问题。维纳至少第四章“语言的机制和历史”和第六章“法律和通信”探讨了“非协作式对话”。8.1 协作式对话（通信）与问题的提出第1段话，维纳说“……正常的通信谈话，其主要敌手就是自然界自身的熵趋势，它所遭遇到的并非一个主动的、能够意识自己目的的敌人。而另一方面，辩论式的谈话，例如，我们在法庭上看到的法律辩论以及如此等类的东西，它所遭遇到的就是一个可怕得多的敌人，这个敌人的自觉目的就在于限制乃至破坏谈话的意义。因此，一个适用的、把语言看作博弈的理论应能区分语言的这两个变种，其一的主要目的是传送信息（这便是香农等已经研究得相当完美的协作式对话，即，通信），另一种的主要目的是把自己的观点强加到顽固不化的反对者头上（这便是非协作式对话）。我不知道是否有任何一位语言学家曾经做过专门的观察并提出理论上的陈述，来把这两类语言依我们的目的做出必要的区分，但是，