フォン・ノイマンの考えていた情報理論 : 熱力学と論理学とデジタル情報による進化のメカニズム(一般,LDPC符号,一般)
スポンサーリンク
概要
- 論文の詳細を見る
情報理論というとシャノンを思い浮かべる人が多い.しかしジョン・フォン・ノイマン(1903-1957)も,生命の自己複製と進化を自動的になしとげる複雑さを生みだすメカニズム「オートマトン」の研究として情報理論の必要性を訴えていた.そして,組合せ,熱力学,形式論理学,デジタルといった基本概念を吟味し,万能チューリングマシン,デジタル神経ネットワーク,長期記憶メカニズムといったシステム構成要素を論じていた.情報は離散的で有限個の元からなる論理記号が,一次元状に配列された表現であり,それが媒体を変調して回線上を伝搬し,宛て先でデジタル復調されて複雑な意味を構築する.デジタル信号はアナログ信号よりも信号対雑音比(S/N比)にすぐれているから,組合せ理論にもとついて符号語の種類が桁違いに多くなり,一回だけ送信すれば相手にメッセージが届く.ほぼ無限に作り出せる符号語が,一度送信するだけで相手に届くことの相乗効果として,短い符号語が意味単位の接続や意味の修飾を行うようになった.これが言語における文法,タンパク質合成における非コーディングRNA,コンピュータ・ネットワークにおけるプロトコルスイッチである.宛て先で処理されるための情報以外に,情報を処理する回路の組み立て方を指示した情報を宛て先に送ることができるので,情報によって情報処理回路を作れる.できあがった処理回路を処理回路を作る回路に投入すると,一段上のレベルの処理が可能な処理回路ができ上がる.これを何度も繰り返すと,だんだん処理できる複雑さのレベルが上昇し,複雑さのレベルが同等な子孫を生みだし,さらに複雑さを増した進化を自然に生みだせる.具象概念から類概念・関係性概念に発展したものが,抽象概念,公理,公理系へと発展する過程も自己増殖による複雑化と考えられる.
- 2011-09-22
著者
関連論文
- 概念体系構築と概念操作を行なう生命のブール代数 (「知識・言語・テキスト処理」および一般)
- デジタルな言語記憶に関する仮説
- デジタルな言語記憶に関する仮説
- IT2010-23 符号化理論の言語学への適用 : 話し言葉は自己増殖オートマトンであり,デジタル原理によって駆動されている(デジタル言語学)-ジョン・フォン・ノイマンに捧ぐ(フレッシュマンセッション,一般)
- デジタル発声とアナログ聴覚が生むエントロピー利得とオートマトン-デジタル言語学(2)
- ヒトの音声はphonitでデジタル変調されている (復調はアナログ方式である) - デジタル言語学(その1) -
- ヒト話し言葉デジタル通信システム研究の学際的性質概観と,発話と聞き取りを結びつけるエントロピー利得(情報理論)について
- ヒトの音声はphonitでデジタル変調されている (復調はアナログ方式である) - デジタル言語学(その1) -
- 知識の表現型と遺伝子型(デジタル言語学) : 「条件反射」と「分節言語」を考える(発達と知識獲得)
- ヒト話し言葉デジタル通信システムにおいて情報源符号化をになう概念の形成・使用におけるパターン認識のはたす役割 : 条件反射の第二信号系である言語の生物学的構造(言語表現とパターン認識)
- 仮想現実とは何か : 〜ヒト脳内に構築される概念体系と天命反転をめぐって〜荒川修作に捧ぐ(人と感覚,人工現実感)
- 自然言語の論理と感情 : その同根性ならびに感情が概念の起源であることについて(自然言語の論理と感情)
- 自然言語の論理と感情 : その同根性ならびに感情が概念の起源であることについて(自然言語の論理と感情)
- 進化を生みだすデジタル情報 : デジタル復調・情報源符号化・通信路符号化によって構成されるオートマトンのデジタル・ネットワーク・メカニズム(IBIS2010(情報論的学習理論ワークショップ))
- チョムスキーに「生成文法」という幻想をいだかせた神経細胞のデジタル・ネットワーク・オートマタにもとづく「二重符号化文法」
- チョムスキーに「生成文法」という幻想をいだかせた神経細胞のデジタル・ネットワーク・オートマタにもとづく「二重符号化文法」
- 荒川修作の「意味のメカニズム」を解読する〜天命反転という身体技法のもつ希望〜
- 生命進化と言語の意味の複雑化を生むデジタル公理系 - 言葉と意味の抗原抗体反応ならびに抽象概念の意味について
- 生命進化と言語の意味の複雑化を生むデジタル公理系 - 言葉と意味の抗原抗体反応ならびに抽象概念の意味について
- 書き言葉はアナログ処理され、話し言葉がデジタル処理される : シャノン情報理論とパブロフ「条件反射」概念への誤り訂正要求(テーマセッション,文字・文書の認識と理解)
- 言葉の意味のデジタル処理とパターン認識 : 正しい言葉で正しく思考した記憶が抽象概念の意味となる(テーマセッション,文字・文書の認識と理解)
- デジタル原理と「聞く」オートマトン : ヒトの進化を生みだすメカニズム
- ある言語の表現型から別の言語の表現型へ : 翻訳は意味を問わなくてよい(文型と意味)
- 音声言語のデジタル性 : デジタル符号と符号化メカニズムがおりなすオートマタ(音響モデル・雑音・分析,第12回音声言語シンポジウム:情報アクセス,音声・言語処理一般)
- 音声言語のデジタル性 : デジタル符号と符号化メカニズムがおりなすオートマタ(音響モデル・雑音・分析,第12回音声言語シンポジウム:情報アクセス,音声・言語処理一般)
- ヒト・デジタル言語のOSI参照モデルによる解析 : デジタル言語学(センサーネットワーク・環境・エコロジー,インターネットと環境・エコロジー,一般)
- ウェブ情報知識化における注意事項 : ビット情報と言語情報の混在ならびに知識の身体性について(「Webインテリジェンス」及び一般)
- 荒川修作の「意味のメカニズム」を解読する : 天命反転という身体技法のもつ希望(学習・発見支援,グループウェアとネットワーク,ライフログ活用技術,一般)
- 情報とは何か : 論理ネットワーク層で処理され直接行動を生む災害情報の事例から
- 荒川修作の意味のメカニズムを解読する(3) : 人類文明の論理エラーを発見し修復するために(VR一般,人工現実感)
- 荒川修作の意味のメカニズムを解読する(2) : 荒川修作インタヴュー「建築で人間の意識を生み出す」(機械学習とその応用)
- 言葉以前の論理学 : 新しい文明と人間のために(意味解析/関係抽出2,第1回テキストマイニング・シンポジウム)
- 言語機能の神経細胞量子スイッチ仮説 : ヒト言語の特徴はデジタル信号を組合せた無限の語彙数である(作製プロセス・電気的特性・デバイス,有機デバイス全般・一般)
- シャノン情報理論へのいくつかの疑問 : 情報理論を学際的解析ツールとして使った経験から(一般,LDPC符号,一般)
- フォン・ノイマンの考えていた情報理論 : 熱力学と論理学とデジタル情報による進化のメカニズム(一般,LDPC符号,一般)
- 自然言語の分子構造 : 意識の脳室内免疫応答仮説 (パターン認識・メディア理解)
- 記号と言語と条件反射 : 鈴木孝夫の『鳥類の音声活動 : 記号論的考察』に刺激されて (思考と言語)
- 言語情報からの知識獲得 : テキスト化された高次複雑情報はどう理解し身につければよいか (思考と言語)
- 自然言語の分子構造 : 意識の脳室内免疫応答仮説 (言語理解とコミュニケーション)
- 複雑系解析のためのテキストマイニング : デジタル言語の情報源復号化(検索・検証・取り込み)の手法 (言語理解とコミュニケーション)
- デジタル信号が文法と抽象概念を生みだした : ヒトのデジタル音声通信システムの段階的自然発生仮説(ポスターセッション,第13回音声言語シンポジウム)
- 概念の論理・生理構造(言語と学習) : イエルネ・ノーベル講演より:言葉と意味の結合は抗原抗体反応か!?(言語と学習,場の共創)
- 言語情報の獲得と前方誤り訂正手法 : シャノン情報理論の誤り検出と誤り訂正 (情報ネットワーク)
- 言語とネットワーク(デジタル言語学 その3) : 文法はプロトコルの手続き記憶である
- デジタル信号が文法と抽象概念を生みだした : ヒトのデジタル音声通信システムの段階的自然発生仮説
- 情報論的学習と生命学習 : 概念の量子メカニズム(デジタル言語学)(能動学習,相互情報量,他,統計推理,データベース,一般)
- 言語情報からの知識獲得 : テキスト化された高次複雑情報はどう理解し身につければよいか(テキスト・談話,思考と言語一般)
- 記号と言語と条件反射 : 鈴木孝夫の『鳥類の音声活動-記号論的考察』に刺激されて(テキスト・談話,思考と言語一般)
- A-039 情報理論における雑音因子 : 生命体と意識のオートマトンが生まれる環境(計算とプログラミング,A分野:モデル・アルゴリズム・プログラミング)
- 複雑系解析のためのテキストマイニング : デジタル言語の情報源復号化(検索・検証・取り込み)の手法(検索調査,第2回テキストマイニング・シンポジウム)
- ことばのデジタル・ネットワーク・オートマタ : 学際的文献検索・精読による複雑系システム解析手法の提案(第15回情報論的学習理論ワークショップ)
- 言語情報の獲得と前方誤り訂正手法 : シャノン情報理論の誤り検出と誤り訂正(一般,Resilient Network,ディザスタ・リカバリ,BCP(Business Continuity Plan),臨時ネットワーク構築,省電力ネットワーク技術,TCP/IP,プロトコル,ルーチング,ネットワーク管理,認証/ID管理及び一般)
- 言語現象とパターン認識 : ヒトの意識の脳室内免疫応答ネットワーク仮説(テーマセッション,文字・文書の認識と理解及びアルゴリズム・システム評価)
- ことばの意味の学習と正規化 : ことばを正すために概念の論理次数を明示せよ(言語と学習・場の供創・意味の創発)
- 自然とひらめきが生まれる学習法