multiplusスマートフォン用の表示で見るmultiplus気まぐれに書評とか。この広告は、90日以上更新していないブログに表示しています。同期はこの人を知っていた。「シャノンエントロピー」という名前が一般的らしい。「情報エントロピー」、これが今回の本の主要なテーマだ。情報エントロピーの概念もまた、先日ご紹介したチューリングの計算機と同様に、現代のコンピュータに対して非常に重要な影響を与えた。見るシャノンが考えたことはとてもシンプルなことだった。シャノンは、「通信を高速に、正確に」行うためにはどうしたらよいかということを研究した人だ。最終目標として「価値ある情報を高速に、正確に送る」ことを掲げ、そのための理論を作り上げた。それが情報エントロピーだったし、相互情報量だったし通信許容量の概念だった。今日は簡単に情報エントロピーについてまとめたいと思う。情報エントロピーというのはもともと物理学のエントロピーの概念を参考にしたといっていいと思う。「情報エントロピー」という名前を使うようにアドバイスしたのは、あのフォン・ノイマンだったそうだけれど。情報エントロピーには「大きい」と「小さい」が存在する。情報エントロピーが大きいと「価値の高い情報」ということになり、逆だとその逆となる。一般に、情報エントロピーは以下の数式で表される。-log2P(X)ビット最後がビットで終わっているという点に注意が必要だ。これは要するに、その情報を伝えるのにかかる情報量を表している。エントロピーが大きいということはそれだけ伝えるのが難しい情報であり、希少性が高い。したがって、情報のありがたさが大きい、ということだ。ここで、具体例を使って情報エントロピーを考えてみる。bitで、この情報量を減らして効率よく通信を行う方法もシャノンは考えた。符号化にはいくつかパターンがあって、上手にパターン化すると通信量を減らすことができるのだ。これは現代では.zipなどの圧縮技術に用いられているという。情報関係の学部ではないから詳しいことはわからないけれど、コンピュータと数学とは密接にかかわり合っているのだと改めて考えさせられた。―ダニエル・デネット『心はどこにあるの...完全に消化不良ですが、一応読んだってことで書評を書きます。is?yuki.学生時代はフランス現代思想あたりでさまよっていました。今は金融工学とJavaなどでさまよっています。ArchiveSearchはてなブログをはじめよう!yukisaltoさんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。