Prof. Robert G. Gallager「From Information Theory to the Information Age」

Communication capabilities are the most important difference between humans and other animals. Communication is an essential skill for humans to work together, to share scientific, psychological, political, and social ideas, and to share the many joys of living. Dr. Claude Shannon's paper on information theory, published in 1948, laid the foundation for the information age. In this paper, he emphasized the importance of enabling the receiver to distinguish between discrete and analog messages. In a communication system, there are a source where the messages come from, the actual messages, and the binary data that the messages get turned into; then, there are an encoder that encrypts the data, a modulator that converts them into the frequency which can be transmitted, a noisy channel for transmission, a demodulator to remove the noise, and a decoder that decrypts the encrypted data. The practice of encoding message sources into binary data has become almost universal. With binary data, for n different binary digits used, there are 2n possible messages that can be communicated. The amount of uncertainty in a message can be identified using entropy in information theory, thereby allowing for communication.
Adding redundancy to the data is useful to reduce the uncertainty in a bit string by error correction; how much redundancy that needs to be added can be calculated by identifying the channel capacity. As networks got bigger, error correction became more important. I developed low density parity check (LDPC) codes as a solution, which are now the standard for 4G and 5G.
The last 50 years have seen tremendous technological advances. We can now search information easily on the Internet. The challenge in the future is to acquire the capability to find and select the correct information from a vast amount of information.
人と動物との一番の違いはコミュニケーション能力にあります。コミュニケーションは、共に働き、科学的・心理的・政治的・社会的なアイデアを共有するため、また喜びをシェアするために必要不可欠な能力です。情報化時代への布石となったのはシャノン博士が1948年に発表した情報理論の論文であり、ここで、離散情報とアナログ情報を受信者が識別できることの重要性が強調されました。情報伝達は、メッセージの基となる情報源、実際のメッセージ、メッセージを変換した後のバイナリデータ、データを暗号化するエンコーダ、送信できる周波数に変換する変調器、送信するための雑音のある通信路、雑音を取り除く復調器、暗号化されたデータを読み解くデコーダなどを用いて行われます。メッセージのバイナリデータへの変換は世界共通となりました。バイナリデータは、使用するデータ数ｎにより、2nとしてメッセージを伝えることができ、情報理論におけるエントロピ（情報量）を用いてメッセージにおける不確実性を判断することで通信ができるようになります。
エラー訂正を用いてバイト列の不確実性を減らすには、データに冗長性を持たせることが有用であり、必要な冗長性は、チャネル容量を特定することで計算できます。ネットワークが拡大する中、このエラー訂正の重要性が増大しました。その解決策として私が開発した低密度パリティ検査（LDPC）符号は、現在G4とG5で使用されています。
この50年で技術は飛躍的に進歩し、インターネット上で情報を簡単に検索できるようになりました。今後の課題は、膨大な情報量の中から正確なものを読み取る能力を備えることです。