最大似然与最大后验

17

微博:奥卡姆剃刀

发表于:09.10 22:21

“人傻所以被骗”与“被骗是因为人傻”是不是一个意思?恐怕很多人认为就是一个意思。

实际上两个意思完全不同,根据“人傻所以被骗”这句话,可以得出人不傻也未必不被骗,即聪明人也可能被骗。

而根据“被骗是因为人傻”这句话,可以得出人不傻就不会被骗,即聪明人不可能被骗。

从严谨的形式逻辑上讲,一个命题只与其逆否命题等价,而不与其逆命题等价,也不与其否命题等价,而前述的两段话并不是逆否关系。

您可能疑惑,奥刀你为什么对这种辩论的技巧如此热衷?这不是不务正业吗?这不是不务正业,这种思维方式是研究通信理论的关键基础。

通信研究的是如何把信息从甲地传递到乙地,过程可能出错,也可能不出错。所以我们期望“甲地的信息A,如果传到乙地后还是A,那就好了”。

这个期望没问题吧,你一定理解而且还觉得很对,但通信真正的期望并不如此,真正期望的是“乙地收到个信息A,如果甲地之前发出的信息真是A就好了”。

前个期望是“前向概率”,后个期望是“后验概率”。因为信息有ABCD等很多,综合考虑后,发了啥得到也是啥的概率的统计值越高越好,这叫做最大似然准则。

收到了啥,而发送端之前果然发送了啥的概率的统计值越高越好,这叫做最大后验概率准则。这才是通信的最优准则。

简单来说,通信研究者的屁股是坐在接受者一方的,考虑问题是从接受者出发,落脚到发送方,这与信息传递的方向是相反的。

这些说法您之前一定没听过,您肯定会觉得很有趣,而且还挺烧脑。

是的,通信专业的确非常烧脑,即使一流大学的毕业生,大多数也没真学明白,晕晕乎乎似是而非地有个大体框架和印象吧。

要想真学明白,必须把涉及到前向概率、后验概率、条件概率…还有各种熵和各种准则都搞明白,不是会做题那种明白,而是完全领悟那种明白。

这些数学跟形式逻辑是一脉相承的,数学其实就是逻辑的延伸。我写的《辩论七律》被很多人肯定,其实我并没有系统地学习过逻辑,我的逻辑能力是从对数学的领悟中获得的。

数学改变思维方式,此言不虚。不过细想起来,任何专业的学习都会影响到思维方式,而且会非常不同。例如艺术专业的人可能对数学一窍不通,但人家即使摆个花篮铺个床单,都能透出美来。

很多网友不理解我的思维方式,这这很正常,因为他们没有接受过跟我一样的科学训练,对于一些口出狂言攻击我的,我会回一帖“你的学识太差,没有能力理解我,还是去追星吧”。

这篇小文不长,但却包括了伦理学、通信、数学方面的知识,因为你以前并不知道这些,所以此文的熵很大。更重要的是,因为文章通俗易懂,这么大的熵您都接受了,是不是呢?😊

今天是教师节,教师是个光荣的职业,传道授业解惑,学为人师,行为师范。我祝我的同行们节日快乐!