Neblux 知識圖譜
資訊(夏農理論)
在夏農資訊理論中,資訊量化了隨機事件所伴隨的不確定性縮減。克勞德·夏農於1948年將其形式化,奠定了資料壓縮與通訊傳輸極限的數學基礎。
概觀
夏農將資訊熵定義在機率分佈之上;僅在各結果出現機率均等時,該值才簡化為可能結果數量的對數。此架構界定了無失真源編碼與雜訊通道容量的極限。在物理學中,資訊度量與熱力學微觀態的統計熵在數學結構上具有直接關聯。
為什麼重要
夏農的理論架構為現代數位通訊、訊號處理與編碼理論奠定了理論根基。其數學度量隨後延伸應用於遺傳序列分析以及經濟學中的資訊不對稱模型。
通往哪裡
相關概念
- 資訊理論概念
- 熱力學熵概念
- DNA(去氧核糖核酸)應用
- 知識論邏輯