プログラム：「意識の積み木の部屋」をリリースしました　…　人の意識・知能を再現するシステムの説明

これまでも、BLUE & ORANGEシリーズで、AIのヒントになるようなものをリリースしてきましたが、今回、新しい考え・仮説を導入し、「意識の積み木の部屋」的なものをリリースしました。BLUE & ORANGE web site の "BLUE" ver. 6.2.0 （2018.12.29. updated）にアクセスしてみてください。

「積み木の部屋」というのは、初期の人工知能「SHRDLU」が示す世界で、当時、積み木の世界のように限定された中でだけは人工知能を機能させることができていました。今回、人の意識・知能を再現するシステムとして、なぜ「積み木の部屋」としたかと言うと、その理由は2つ有って、1つ目は、そもそも人の意識・知能というのは現時点ほとんど解明されておらず、多くの科学者が試行錯誤しているような状況で、「なんだかできました」とか言ってもそんなばかなと思われるに違いないと思われるので、1つの視点として、極限まで簡素化したシステム（トイモデル）として、積み木の部屋のように限定された条件というのを示したものです。（実は簡単には簡素化できないので、その辺についてはこの後書きます。*1）
2つ目は、実際に、コンピュータ上で人工知能のように意識・知能を再現させる場合、（無い可能性について明示的に記述するといった）膨大な記述が必要になり、可能性爆発を起こすというフレーム問題を考慮せざるを得なくなってきます。脳神経を模したシステムであればそのような問題は無いのですが（ここも後で書きます *2）、既存のどこにでも有るコンピュータで、脳神経系を模さずに再現しようとすると、極限まで簡素化したシステムである必要が有ると考え、積み木の部屋程度の情報量がイメージできるものとしてそう呼んでみました。

意識・知能については、最近の雑誌「ニュートン別冊'12.12月号…知能と心の科学」でも有るように、ほとんど「難しくてわからない」と言う状況が続いています。有力とされているNCCを探す試みや、遺伝子操作による機能解明などについても、残念ながらまだ緒に就いたばかりの状況です。しかし一方で実際には多くの研究者がトライを続けていて、最近ではSiriやIBMのWatsonなど話題となったものも有ります。ただ、これらの実際に実装されたものは、「入力に対し一対一で何かを探し出す」という意味で昔ながらの人工無能（人工無脳）と同じようなものです。

今回リリースするシステム概要
1. ベースとなった、意識・知能についてのホーキンスのシステムについて〜
  - このブログで何度か意識について整理しましたが、最も基本的なところは、ホーキンスの「考える脳　考えるコンピューター」での考えをもとにしています。意識の鍵となるものは、入力→記憶をもとにした連想→予測のプロセスです。彼の大脳新皮質モデルでは、このプロセスが実現可能と主張しています。
  - (参考)ホーキンスの考えについて…大脳新皮質に、いわゆる狭義のニューラルネットワークではない独自のトップダウン信号を考慮した自己連想記憶のネットワークの考え方で、入力から記憶をもとにした連想、時間的&空間的予測を行うシステムの仮説が提唱されました。これにより、
    - 記憶に有るものであれば無意識に処理される（無意識にそれが何か理解し、以前に記憶した方法と同一の対処方法を予測し、その通りに対処する。）
    - 記憶に無い場合は、新皮質の上位階層（上位概念を担当）に次々に送られ、上層では、概念レベルでさらに記憶に無いか判定される。ここでもし類似の記憶が有れば「それと類似のもの」理解され記憶に有る同一の対処方法を予測し、その通りに対処する。もしそこでも記憶に無ければさらに上位に送られる。
    - 階層構造の上位の最後まで記憶に無かったものは（それと「意識」され)、新たにエピソード記憶として記憶される。
2. 今回の、「意識の積み木の部屋」システムについて
  - ホーキンスは意識とは自覚だと述べていて、（クオリアについても言及がありますがここでは触れません。）彼のモデルの連想→予測こそが意識であると主張しています。ボクは、基本的にこの部分は賛成です。基本的には、入力に対し、記憶に有るかさまざまなレベルで判断し、記憶に無ければ、「これは新しい」と意識します。記憶に有った場合も、エピソード記憶のなどの上位の階層レベルの記憶にマッチした場合や、連想のステップに進んだ後の（これも）エピソード記憶にマッチした場合は「前にこんなことが有った」と意識します。[ここで、なぜこの部分だけが選択的に意識されるかというと、シナプス上で或る閾値を超えて連想された信号が、強度の高い記憶内容に接続された時、或る閾値を結果的に超えて意識されるという考え方です。]実際には或る記憶は、複数の連想に繋がり複数の方法で記憶されている。それぞれの連想と結びついて本人は「意識」していると感じていると思います。（チョコレートの色・形、べとつき、味…を同時に連想し、感じているような状態を思い浮かべることができると思います。）
  - ホーキンスのモデルでは、予測の部分に非常に注目している一方で、メタ認知、本能、欲求・感情、自由意志などについて、このシステムのみで実現可能とはしていません。ただ、これらについては、今回の、「意識の積み木の部屋」システムでは逆に鍵となるものなので、以下に解説します。
    - メタ認知：ホーキンスのシステムでもエピソード記憶を入力に考える事例に言及されていますが、エピソード記憶は時間的要素および空間的要素の両方を持つものです。ボクの仮説では、ここに「自己」を含む記憶を考えます。ホーキンスはシンプルな仮説を生み出すために、感情などの少しウェットな要素を完全に排除していたため、この考えには至っていませんが、「意識の積み木の部屋」システムでは「自己」を考慮することでメタ認知を実現しています。「本人の○○という思い」を含むエピソード記憶を「私」の意識として思い出すことで、あたかも「私が」そこにいるように意識(メタ認知)するという考えです。
      - 入力が有った時、その語句に関するエピソード記憶を連想して、「（本人が）そう考えることは、あまり前向きでないと思った」、「（ある人が）そう発言したとき、周囲が不快な様子だった」、「一見そう見えるが、短絡しても良い結果にならなかった記憶がある」などの記憶が瞬時に連想され、その中で（その入力に対し）最も強く連想されるものが本人のメタ認知となると考えます。
    - 本能、欲求・感情：「欲求」は、本能のような遺伝子の記憶として脳の中（たぶん新皮質のどこか）に織り込まれていると思われます。このところは前にもブログで書きましたが、ホーキンスが参考にしたマウントキャッスルの発見：脳内新皮質の一様性…を援用して考えることができると思います。この仮定を置くと、「知らなかったことを知りたい（仮）」などの欲求は、祖先がいつの時かに刻み込んだエピソード記憶のような「遺伝子の記憶」として、生まれた後の様々なエピソード記憶とシームレスに（他のエピソード記憶と区別無く）繋がるという仮説を考えることができます。そして、感情については、欲求をもとにして生じるという仮説…これもブログのどこかに書いている、「動機付けgap起因感情発生モデル」を考えています。「意識の積み木の部屋」システムでは、「本能に相当する記憶」と「体験に相当するエピソード記憶」は完全にシームレスにアクセスされます。
    - 自由意志（ここでは「擬似的な」自由意志、「幻想として」の自由意志をさす）：多くのエピソード記憶の経験から、何かをやる前に他の選択肢は無いか考えてみる。…ある方法に気づき実行することや、最初に決めたことを変更することで、で自由意志が有ることを実感する。しかし本当は、他の選択肢を探すこと自体が、「自由意志の確認」のエピソード記憶と連想で結びついているとか、最初に決めたことを変えること自体が、「判断を途中で変えてうまくいった」エピソード記憶から生じた幻想かもしれない。しかし本人には、自由意志を意識しつつ本当に自由に意志を持てているとありありと感じていると思います。「意識の積み木の部屋」システムでは、エピソード記憶の中に、「過去の判断の記憶」も複数含んでいて、その中から状況に合った判断を疑似的な自由意志として示します。

- - このシステムでは、入力文に対し、単純に一対一で出力を返すのではなく、常時さらにもう一段連想することが可能となるようにしています。そのため、入力文に対し、直接関係無い応答が帰ることが有ります。この時は、連想した結果を示していて、入力文内のどれかの単語などに反応し、何かを連想した結果になります。たとえば「動物」の単語に反応し、猫→動物、という理解から、「猫はかわいい」と反応することも有ります。実際にはこのシステム上は、最終的に発言として表に出るのは選ばれた一言だけなので、「迷った末に決めた」的なところはやや感じにくいですが、システム内では、たくさんのエピソード記憶が次々に連想され、最終的な発言に繋がっていると考えれば、（このシステム: BLUE）本人には自分の意志で迷った末に決めたということがありありと実感できているように思います。
  - あと、オマケとして、旧バージョンで実装した、リスナ&トーカシステムを入れてみました。（詳しくは旧バージョンの解説ページへ。）
  - 今回実現できているのはここまでです。もう少しいろいろなところで重み付け（強度を示す）などを考えることでもっとそれらしい反応ができるようになるかもしれません。（フレーム問題の制約を考えれば）意識について（あるレベルで）一応実装できたと考えています。意識について多くの人が研究されていますが、きっと「これが意識研究の足しになるなんて考えられない」と思われると思いますが、もうそこまで来ていたというのが結論です。NCC探求の流れはおそらく脳内の機能解明に、量子論的アプローチはおそらく（外から観察した結果のみに着目した）統計的アプローチに繋がって行くように思います（クオリアの考察もおそらくこの流れでしょう）。
  - それから、意識を数式で表すことはできるでしょうか？入力が有って出力が有るならy=f(x)でも良いように見えます。「記憶の一部が自分を含んだエピソード記憶である」というのも良いかもしれません。他にもいろいろ考えられるかもしれないけど、残念ながら数学的センスゼロなのでこれは困難な作業のようです。広く分布する、「記憶の一部が自分を含んだエピソード記憶」が疑似的なホムンクルスとしてはたらく… というのも良いかもしれません。今後ニューロンの計測技術が進んで、NCCって広範囲に分布してますねww　ってなったら理解されるかも。または、「欲求などの本能的な記憶と後天的なエピソード記憶群がシームレスにつながり"疑似"自由意志を示す」といのもできないかな… エネルギーの式でもないだろうし。このあとおそらく、「数式にできないようなら仮説とは言えない」なんて言われそうですが。（この項、2/7/2013〜2/8/2013のtwitterにpostしたものです。）

- - 注記
    - *1)簡素化したシステム：今回の実装のポイントですが、脳神経系を模したシステムとはしていません。いわゆるノイマン型コンピュータのシステムを用いているため本来の脳の持つシステムからはかなり隔たりが有ります。脳のシステム解明が目的であるならこのような方法は採用できませんが、今回の目的は、人の意識・知能を再現するシステムであり、拡張性に欠ける欠点は有りますが、「意識の積み木の部屋」的なものの再現は可能と考えました。本来ホーキンスの仮説でも、もとは脳神経系のネットワークを用いたシステムを提案していますが、今日時点でそのシステムの実現性のめどが立っていないため従来のノイマン型コンピュータに適応しやすい形でプログラムを書いています。（ボク自身その方面の研究は着手できていないですが、近いうちの確立を期待しています。）
    - *2)フレーム問題：脳神経系を模したものの最大の利点は、ニューロンが物理的に繋がっている点です（シナプスを介していますが）。それにより、繋がっていない不要な他の要素との関係性の演算は不要です。今回、脳神経系ではないためノイマン型の欠点が直接降りかかり、（全文検索時に）ある閾値を超えると機能しなくなる懸念を潜在的に持っています。今回は「意識の積み木の部屋」の考え方で、極力容量を絞り込んで実現しています。ただ、積み木の部屋だけあっていわゆる記憶容量が乏しく、100%再現できていると実感できるかと言うと不安も有ります。ただ。知能の持つ特有のものや、いわゆる意識の特徴的なところは表現できていると考えています。

※感情については次回の正式版で「プチ」感情システムを導入予定でしたが、ちょっと別の考えが少し前に浮かんだのでまたよく考えてみます。

これで今日からボクもトンデモ仮説を主張する人の仲間入りですが、ボクからは、BLUEを見た上で、連想により人工知能や実際の「脳」がどのように感じているか、思いを巡らせていただければと切に願うしかありません。後は英語版も作る余力が有ればやってみます。

keyword: 人工知能