第17回　通信路と通信路符号化の基礎

阿坂先生
これまで勉強してきた情報源符号化による情報の圧縮は「雑音のない通信路」を想定しておった。

麦わら君
雑音のない通信路ってなんですか？通信路とは?

桂香助教
下図のようにあるパソコンから違うパソコンへ信号を送るときLANケーブルが通信路になるわよ。無線LANだったら空気が伝搬路に相当するわ。

でも、この途中の通信経路に流れる電流や電波に加わる雑音は基本的には避けれれないものなのよ。雑音は熱雑音とか外来雑音とかあるけど、ここでは電流や電波の信号を妨害するものと考えて貰って良いわ。

阿坂先生
この雑音の影響で０と送ろうとしたものが１になってしまったり、逆に１で送ろうとしたものが０になってしまう。下の図では最後のビットが０から１に間違って伝送されたものになっておるな。雑音の影響でこういった厄介なことが起こる。

桂香助教
だからね、前回勉強したハフマン符号で、せっかく、効率よく信号を送れるようになったのに、雑音の影響により途中で１と0が反転して間違って送られてしまったら全く意味のない記号が送られてしまうことになる。これでは通信した意味がないわ。

麦わら君
なるほど。この雑音をなくす方法はないのですか？

阿坂先生
一番簡単な方法は、以下の図ように雑音に対抗するために送り手は信号の強さを強くして雑音に負けないようにする。

桂香助教
だけど、ケーブルが長くなって伝送する区間が長いと信号が減衰してくるとやっぱり雑音の影響を受けてしまうので別な方法も考えたいところよね。

阿坂先生
そこで登場するのが誤り訂正符号じゃ。誤り訂正符号を使うと伝送するビットの中に誤った１と０があっても正しい情報を伝送できる。

麦わら君
雑音によって間違った情報を修正できるのですか？それはすごい！早く教えてください！

阿坂先生
具体的な誤り訂正符号の作り方はもっと後で説明するが、ごく簡単な例を説明しておこう。まず、3連送符号というものが考えられる。０という情報を送るときに１個の0を送るのではなく３つの0を送る方法じゃ。0じゃなくて000と伝送する。

桂香助教
こうしておけば、1個の0が間違ったとしても残りの２つの0が間違えなければ正確に情報を送れる。多数決方式よ。例えば、0が1と間違ってしまう確率を0.1としたとき、間違った情報伝達になるのはどうゆうとき？

麦わら君
えーと。２つの０が１に変わるときと、後は全部111になるときだから

　011 101 110 111

の場合ですかね。２個間違いが発生する確率は0.9×0.1×0.1だから0.009でそれが３つ。3個間違いの確率は0.001。だから誤って伝送される確率は0.028ですね。

桂香助教
そのとおりよ。10%の誤り確率だったのを2.8%まで減らすことができる。今回は3連送だったけど連送数を増やせば増やすほど誤り率を小さくできる。5連送とか7連送とかね。

麦わら君
うーん。この連送の仕組みは分かるんですが、あんまりいい気がしないですね。無駄にビットを沢山送っている気もするんです。

桂香助教
そうね。連送による方法は連送数を増やせば増やすほど誤りには強くなるけど、伝送できるビット数がどんどん減っていく。だからもっと精錬された誤り訂正方式が望まれるのよ。

阿坂先生
洗練された誤り訂正符号はこれまでにいくつも開発されていたのじゃ。じゃがな、シャノンの登場前には、誤り訂正符号の限界の性能は誰にも分らんかった。シャノンの功績は誤り訂正符号の限界を示したことじゃ。

麦わら君
性能の限界とは？

阿坂先生
情報ビットと情報ビットを保護するビット（冗長ビットという。）の割合が決まれば、雑音に対する耐性が決まるということじゃ。シャノンは誤りをほぼゼロにできる最低限の冗長ビット数を示したんじゃ。冗長ビットを増やせば増やすほど劣悪な通信路でも誤りなく情報を伝送できる。じゃが、一定時間に一定のビットしか送れない場合、冗長ビットを増やせば情報ビットの伝送量が減ってしまうからのぉ。できるだけ冗長ビットは減らしたい。

桂香助教
冗長ビットを減らせば情報はたくさん送れるようになるけど、今度は誤りに弱くなってしまうわよね。この辺りの兼ね合いが難しい。

麦わら君
なるほど。強力に誤り訂正したいですけど、無駄には冗長ビットは送りたくないですもんね。

桂香助教
情報ビットと冗長ビット＋情報ビットの比を符号化率と言うわ。

符号化率R＝情報ビット数k/（情報ビット数k＋冗長ビット数n)

このRがこれから求める通信路容量Cよりも小さければ、誤り率をほぼゼロにすることができる！とシャノンは証明したのよ。

阿坂先生
これがシャノンの通信路符号化定理。これを次回から勉強していくぞぃ。