今日はクロード・シャノンの誕生日(1916)。
シャノンは…偉大すぎて、とても１回では語れないです。
この人がいなければコンピューターは存在しなかっただろう、というくらいすごい人。
世界で最初のコンピューター、とされるのは ENIAC(1947) ですが、それ以前から「電気回路による計算機」は存在していました。
そして、電気で計算ができる、と最初に示したのが、クロード・シャノンが 1937年に発表した修士論文でした。
この論文では、スイッチの組み合わせで OR と AND が作れることを示し、OR と AND があれば2進法での計算が可能であることを示しています。
スイッチで…と言っても、人間が操作する、いわゆるスイッチのことではありません。
修士論文のわずか2年前、ジョセフ・ヘンリー博士が、電気によってスイッチを動かすことができる「リレー装置」を発明していました。
つまりシャノンは、リレー装置を使えば、歯車計算機と同じ計算を、もっと高速に行うことができると示したのです。
デジタル理論の始まりでした。
これからしばらくは、リレー式計算機の時代でした。
ENIAC だって、基本的には「真空管は、リレーより早いスイッチとして使える」という発想で作られているのです。
そして、実は今でも、「トランジスタは真空管より安定したスイッチとして使える」という考え方で、コンピューターは作られています。
シャノンが今のコンピューターの基礎を作った、と言われるゆえんです。
＃実は、シャノンの前年に日本人の中嶋章が同様の論文を発表していますが、アメリカのリレー計算機に大きな影響を与えたのはシャノンの論文です。
シャノンの論文が中嶋論文の盗作である、という説もありますが、リレーの発明を受けてその論理性を考察した、と考えると、同時期に類似の論文が独立に発表されても不思議はないと思います。
シャノンはまた、情報理論という数学理論を作り上げました。
よく「映像は情報量が多い」とか言う人がいるのですが、実はこの言い回し、間違っています。
情報量というのは、元々情報理論で使われる専門用語でした。
そして、その定義は「２つの選択肢があり、どちらか一方を選ぶのに十分な情報を、1bit の情報量とする」というものです。
４つの選択肢の中から、どれか１つに完全に決められる情報があるなら、その情報量は 2bit です。
逆に、２つの選択肢があり、A だと思うのだけど、B の可能性も捨てがたい…などという場合は、0.5bit のように小数点以下の値となります。
たとえば、A と B のどちらかを選ばないといけない時に、全く情報が無いと、0bit です。
情報を調べたところ、「A を選ぶと良い」という情報が得られたとします。これは 1bit の情報です。
さらに情報を得ると「B を選ぶと良い」という情報が得られたとします。
ここで、どちらを選べばよいかわからなくなり、 0bit に戻ります。
情報は増えたけど、情報量は減るのです。
さて、最初に書いた「映像は情報量が多い」という話。
正確に言えば、情報が多いのです。
耳だけで感じる「音」よりも、目で感じる「映像」は情報が多い。
止まっている「画像」よりも、動く「映像」は情報が多い。これは事実です。
でも、それが「情報量が多い」ことにはなりません。
ただのノイズを延々と見せられたら、多分「情報」は多いのだけど、情報量は 0bit 。
何の参考にもなりません。
言葉遊びの屁理屈をこねているわけではないし、コンピューター関連の話でもありません。
何かを作る、クリエイターの人は情報理論を肝に銘じておく必要があります。
自分の想いを詰め込み過ぎると、「情報」が多くなりすぎて「情報量」は減るのです。
適切に薄めて、情報量が高いものを「お客様」に届けると、一番喜ばれます。
＃…と自分で書いておきながら、海より深く反省。
僕のサイトは情報詰め込み過ぎです…
シャノンは、自ら作った「デジタル理論」と、「情報理論」を組み合わせ、次々と新しい概念を作り出しました。
通信に於いて、伝送中にノイズが載ることを考慮し、適切にデータ転送する方法を数学的に考察しました。
これにより、情報通信理論の基礎が固まりました。
これまでは「経験則」で電話やモールス信号の電信線を設計していたのが、適切な設計方法などが数学的に示されたのです。
そして、シャノンはこの「ノイズが載る可能性がある伝送路」で、ノイズの影響を打ち消しながら通信を行う方法も考案します。
エラー訂正符号と呼ばれるもので、今のインターネットでの通信はもちろん、ハードディスクのような情報記録媒体でもこの理論が使われています。
情報記録が「未来への通信」だと思えば、やはりノイズ（時間劣化）の影響は受けるのです。
シャノンは「デジタル理論」を専門としますが、もちろん自然界はアナログです。
この、アナログの量をデジタルに変換して扱いやすくするための方法、「サンプリング理論」もシャノンが始めた学問です。
たとえば、音は空気の波として表されます。
これをマイクで拾って、電圧の波に変えることもできます。
CD の記録の場合、この電圧の波を、65536段階、16bit に区切って記録しています。
これをビットレートと呼びます。
そして、この「電圧の測定」を、1秒間に 44100回行っています。
こちらはサンプリング周波数と呼びます。
ビットレートが 16bit で、サンプリング周波数が 44100回。
この数字、どちらも大きくすればするほど、音は良くなります。
でも、電圧を細かくとろうとすると測定に時間がかかってしまって、サンプリング周波数が落ちる。
周波数を細かくすると、電圧測定の時間が取れなくて、ビットレートが落ちる。
もちろん、その時代の技術の問題もあるのですが、両立は難しいのでバランスよく決める必要があります。
その「バランス」を決める際に役立つのが、サンプリング定理。
記録しようとする周波数の、2倍のサンプリング周波数が無いと記録できない、という定理です。
CD の場合、人間は 22Khz より上の音は聞こえない、という理論をもとに、44.1KHz のサンプリング周波数が設定されています。
＃実際には、CD は当初 48KHz で 60分記録の予定でした。
これが 44.1KHz で 74分記録、という中途半端な数字になるには、裏でいろいろあったそうです。
サンプリング理論と言うとわかりやすいから CD の話になりがちだけど、デジカメとかも同じね。
画像だって、デジタルで記録するにはサンプリング定理の影響を受けるのです。
その昔、パソコンの画面にたくさんの線を引くと、本来の線とは別の模様（モアレ縞）が見えることがありました。
サンプリング定理では、周波数の半分を超える周波数の信号が入ると、本来の周波数と異なった周波数のように記録されます。
これが「モアレ縞」の正体で、本来存在しない周波数のことを、サンプリング理論では「エイリアス」と呼びます。
英語で「別名」の意味ね。
Mac ユーザーならファイルの「エイリアス」を作ったりすることもあるでしょう。
（Windows ではショートカット、UNIX ならソフトリンクと呼ばれる機能です。）
さて、画像の「エイリアス」は、「アンチエイリアス」で消すことができます。
仮に、本来のサンプリング周波数よりも細かい…グラフィック画面よりも細かなドットの画面があるとして、そこに線を描きます。
それから、本来のグラフィック画面に「平均値を取りながら」変換するのです。
平均値を取ったのでところによって絵がぼやけますが、エイリアスは消えます。
アンチエイリアスとか、グラフィックやっている人にはお馴染だと思うけど、これもシャノンが始めた理論によるものなのです。
もっと専門性の高い話もありますが、あまり書くと混乱するので今回はこの辺で終わりましょう。
（詰め込み過ぎは情報量を落としますし！）
興味を持った方のためにざっくりとだけ書くと…
暗号を数学的に扱ったのもシャノンが最初でした。
ゲーム理論の基本的戦略の一つである、ミニマックス法もシャノンが考案したものです。
「コンピューターグラフィック」を創始した、アイバン・サザーランドはシャノンの最後の教え子でした。
同じテーマの日記(最近の一覧)
関連ページ
クロード・シャノン 命日(2001)【日記 16/02/24】
「人工知能」の生まれた日(1955)【日記 16/08/31】
アイバン・サザーランドの誕生日(1938)【日記 14/05/16】
COMPET CS-10A 発表日(1964)【日記 19/03/18】
別年同日の日記
申し訳ありませんが、現在意見投稿をできない状態にしています。 【あきよし】 知ってますよー。本文中に書いた通りなのでよくお読みください。違い（盗作ではない）の詳細については、論文の共同執筆者である榛澤さんの証言が「計算機屋かく戦えり」に書かれています。 (2016-08-03 12:36:19) 【ちょっといいですか？】 あきら なかしま が switching circuit 理論 を打ち立てたのは1935年、すなはちc.e.s.の2年前だ。s.は完全に盗作をしているんですよ。 (2016-07-03 01:54:13) |