第161節 《通信的數學理論》（2/2）

她接近哲學的範疇，只要基礎結構相同，推出來的結果不變。

蘭恩正在自己的房間裡，對論文做最後的整理。

關於這篇論文的標題，他本來想叫《信息學的數學原理》，但是想了想自己目前這不彰的學術地位，雖然對於這份成果很有自信，他還是從心了，將標題改為了《通信的數學理論》。

他的自信並不是毫無來由的。

雖然記憶破碎，但是他仍然能記得這份成果的意義。

簡單的說，別的學科的創始人是發明了一個新的起點。

而這份成果，直接發明了這個學科的終點——只要還在經典資訊理論框架內，就逃不出這篇論文中三大定理的範圍，只能在工程應用上稍微努努力了。

當別人在拼盡全力爬山的時候，蘭恩已經在山頂等他。

按照這篇論文的觀點，信息是和長度，重量這些物理屬性一樣，是種可以測量和規範的東西。由於對於通信系統而言，其傳遞的信息具有隨機性，所以定量描述信息應基於隨機事件。

他給「測量信息的單位」加入了一個新的通用語單詞——比特。

蘭恩在裡面寫道，任何信息都存在冗餘，冗餘大小與信息中每個符號，包括數字、字母或單詞的出現概率，或者說不確定性有關。

通常，一個信源發送出什麼符號是不確定的，衡量它可以根據其出現的概率來度量。

概率大，出現機會多，不確定性小，反之就大。

例如，當極限條件下，一個信源只發送一種符號，即發送內容是確定的，即概率為100%，此時接收方無法從接收信號中獲得任何信息，即信息的量為零。

而反之發送方和接收方約定，符號1代表二進位數字0，符號2代表二進位數字1，則接收端可以通過接收到的信源符號，獲取一定信息。

而信息的大小可以用「信息熵」來表示。

他從數學上證明了，滿足單調性、可加性、非負性的信息熵函數，具有一種唯一的形式。

信息熵不僅定量衡量了信息的大小，同時為信息編碼提供了理論上的最優值：實用的編碼平均碼長的理論下界就是信息熵。即，信息熵為數據壓縮的極限。

同時，這從理論上證明了，只要通信速率低於信道容量，總可以找到一種編碼方式，使得誤差概率接近於0。而信道容量，可以用一個簡潔而美麗的公式，計算出來。

裡面總結出了三個定理，分別是可變長無失真信源編碼定理、有噪信道編碼定理、保真度準則下的信源編碼定理。

這篇論文將會，也必將，開啟一個新的，廣泛而重要的學科——資訊理論。

並為這個學科劃好了終點。

蘭恩最後檢查了一遍語法，對照了一下末尾的引用部分，然後將這疊用打字機打出的論文文稿，裝進大號牛皮紙信封里。

文稿很厚，沉甸甸的。

他準備明天去投稿，投給有過接觸的期刊《應用數學與奧術雜誌》。