Neblux 知識グラフ
情報(シャノン理論)
シャノン情報理論において、情報は確率事象に伴う不確実性の減少量を表す。1948年にクロード・シャノンによって定式化され、データ圧縮や伝送限界の定量的基盤となった。
概要
シャノンエントロピーは確率分布に基づいて定義され、事象の生起確率が等しい場合にのみ生起しうる結果数の対数と一致する。この理論は情報源符号化および通信路符号化の数学的限界を定めた。物理学の分野では、熱力学系における微視的状態数の指定に必要な情報量と結びついている。
なぜ重要か
シャノンによる理論構築はデジタル通信技術や符号理論の数学的土台を確立した。さらに遺伝情報の配列分析や、経済学における情報の非対称性モデルの分析枠組みにも影響を及ぼした。
どこへ導くか
関連する概念
- 情報理論概念
- 熱力学的エントロピー概念
- DNA(デオキシリボ核酸)応用
- 認識論論理