Otaku ワールドへようこそ！［295］統合情報理論―意識は、見た目の機能より、中身の仕組みに宿る（前編）という記事で、意識の統合情報理論（IIT）についてかなり詳しく書いてあります。記事を書かれた方は意識の専門の研究者の方ではありませんが、参加された『シンギュラリティサロン #31』のことがよくわかり、よく内容を伝えてあると思われるので、コメントしてみます。
記事は、サロンで大泉氏の講演を聴講された内容となっています。
■クオリアと意識のハードプロブレム：意識にはクオリアが存在し、意識のハードプロブレムという問題が有るというのは、およそこのトピックに興味を持つ人の共通理解と考えてもよいと感じます。そしてIITでは『「ハードプロブレム」は「むずかしい問題」ではなく「解けない問題」』と考えると書かれています。…僕はハードプロブレムは虹の色の順番がなぜ今の皆が知っている順番に感じるかという話に尽きると考えているので、理解できます。
■IITで何を解こうとしているか？：筆者の考えを交えて色々書いてありますが、最も注目するところは、IITは主観世界としての意識がそこにあることをまず認めたうえで、さらに、「意識のハードプロブレム」を解こうとする理論ではなく、意識の量的側面を示そうとしているということ。…僕はこの視点は、IITの最も重要なことと感じていて、この視点だけでも、意識研究に偉大な貢献をしていると考えています。（意識の大きさを測ることができるという考え方を持つことができるかどうかが鍵になるとさえ思っています。）
■AI、人工意識との関係：記事から引用すると、『IITは意識を宿す媒質を規定しない、一般性のある理論なので、これを適用して、情報という観点から、人間の意識、寝ている人の意識、赤ん坊の意識、猫の意識、ロボットの意識を同じように評価することができるようになる可能性がある。』と書いてあります。ここは大いに賛同。IIT関連の議論で、これまであまり明確にこの件書かれていなかったと思いますが。
IITについては、僕は強く支持します。が、ただ、大泉氏と筆者のどちらの考えか不明ですが、「IITは確立されたものではなく、今後どんどん改善していくべきものである。なので、これを叩き台に」と書いてあるように、別視点を加えたり、議論を深めたりしていきたい。ここからいくつかもう少し書いてみます。
■哲学的ゾンビについて：実は定義の話でもあるので、ここでIITを否定しているようにとられると不本意なんですが、哲学的ゾンビが存在すること自体を前提とした議論に違和感を感じています。←それって存在するのは当然！だって人よりも意識の大きさを小さくしていけば、当然ある時点で意識から無意識の状態になるから、そこに崖（ゾンビ）が有るのは当然！と直観的に感じるかもしれませんが、僕はそれって崖をそう定義したからなんだろうなと思っています。
先程の直観から、崖の候補の一つとして、フィードバックが重要なことも理解できます。でもそれを理解した上でも、僕はフィードバック有無に左右されない、もっと小さなミニマム側の意識的なプロセスも含めて意識として研究したいと考えています。大きな理由が3つ有って、
- ミニマムな意識…単位クオリアのようなもの…を考えていくと、いわゆる無意識の領域に飛び込んできてしまうこと。（別のところで詳しく書いていますが）
- ミニマム（低次側）の意識の後、高次の意識を考えていくと、フィードバックの他、感情、創発、self、仮想、意味理解、時間感覚、幻想の自由意志…等も同様に崖（高次意識の条件）の候補となりうることを考えるとフィードバックだけに特別な意味を与える理由が考えにくい。
- 将来的に意識の理論と無意識の理論を大統一するような機会が有ると考えると（同じシステムで同じ情報の処理や流れが有るのであれば）、はじめから無意識やゾンビなどのところでの線引きを考える理由が考えにくい。
定義の問題と書きましたが、西洋的視点（理論構築者の文化的背景）からゾンビを無意識と呼びたいという動機づけがあるのかなという気もしています。という意味では、IITの公理の一つの統合は、「統合されたものでなければならない」というものではなくて、もう少し緩めて、「統合の程度が上がるほど意識の量的側面（Φ）が上がる」というものにした方が良いように思います。制約をつけて可能性を狭めたりするのは勿体ない気がしています。（この視点は公理に関わるものなので、強い反論を呼ぶかもしれませんが、一つの視点として完全否定せず見てほしいと思っています。）
IITには5つの公理、意識の存在、情報、統合、排他、構造が有ります。僕はこれらについてもより柔軟な視点で見ていければ良いなと思っています。
■意識の中身の問題：統合の問題に関連して、記事には、2つのネットワークが有って、片方はフィードフォワードしか無く(a)、もう片方はフィードバックが有る(b)時、aには意識が無いが、bには意識が有るという話になっています。入力・出力が同じであってもです。ここはおそらく非研究者の方でもあれっと思うところだと思います。IITの定義では統合化されていなければ意識は無いと断言することになりますが、僕は、同じシステムで同じ情報の処理や流れが有るのであれば（程度は違っているかもしれませんが）、意識が無いと言いきるのには躊躇します。生後間もない赤ちゃんは全てフィードフォワードで情報を処理できるかもしれませんが、意識が無いとは言いにくいし、仮に意識無しを認めた場合でも、ではどの時点からが意識が生じ始めるのか？その直前は意識が無いとした場合、では直前で行われている処理は意識ではないということなのか？という疑問に対し答えることは困難になってしまいます。
中国語の部屋について記事では、フィードフォワードしか無いため意識が無いという扱いになっていますが、これは、先ほどのaのネットワークや、生後間もない赤ちゃんと等価と考えられます。この時僕は、上の哲学的ゾンビのところで書いた3つの理由で少なくともミニマム方向の意識を持っていると考えています。僕は意識のBUILDING BLOCK CONCEPTを提案していて、この中で中国語の部屋であっても一定の意識は有るし、一定の意味理解をしているという記事を書いています。提案では、低次から高次の意識の間のどこかに有るとしています。IITでは定義としてある崖で切ってそこから先は意識は無いとしていますが、結局は定義の問題なので、両方の主張者がお互いにこれは定義の問題だと考える余地に気付けばそれでも良いと思いますが。
かなり乱暴な主張ですが、ざっくり言うと、僕には脳は記憶と連想しか実行していないように見えていて、その時、定義の制約をあまり複雑に設定することにあまり深い意味を感じていません。
■赤い三角形について：統合の問題に関連して（構造？にあたるのかもしれません）、記事中では、『りんごを見たとき、形と色を切り離して見ることはできない』とされています。これはIITの基本的な考え方の一つですが、僕はこれは少し言い過ぎではないかと感じています。この切り分けられないという主張は、IITの統合（または構造）の公理と整合が取れなくなると考えられているからではないでしょうか？僕はもう一度「統合の程度が上がるほど意識の量的側面（Φ）が上がる」に緩める視点を提案します。僕は単位クオリアを考える時、何の躊躇もなく分解したものを考え、それぞれの要素からの連想や、複合も考慮しています。つまり分解できるということは複合もできるということを考えていて、それはつまり、いわゆる思い付く巨大なクオリアは全て複合クオリアやその連想という考えになります。これは先ほどの意識のBUILDING BLOCK CONCEPTのもとになる考えです。
■排他について：大泉氏の考えか筆者の考えか判然としませんが、記事には『大きな意識の中に小さな意識が、入れ子になって存在することはできない。可能性としては入れ子になっていてもおかしくはないけれど、実際にはそういうことは起きない。』と記載されています。僕はこれも少し言い過ぎではないかと感じています。一つの神経系の複数分割を仮想して、その個々に意識が立ちあがると言い出すのを抑止する目的だと思いますが、どうせ論理的な説明が困難なら、はじめから「可能な最大限の範囲の神経系を領域とする」という視点を提案します。記事中では分離脳の記載が有りますが、僕が紹介したいのは次の資料です。（ちょっとショッキングな映像が有りますが）Could Conjoined Twins Share a Mind? ここでは、分離脳ではなく結合脳(頭部結合双生児)の事例です。分離する場合とは逆に、結合する場合にどうなるか？ということを考えることで、緩い結合時の独立性や、逆に強い結合時の個々の消失の可能性の推定、（その他、自己／他者の関係性も）が見えてくるのではないかと思います。
■機能の積み上げについて： 記事中では、『意識は機能の積み上げの末に立ち現れてくるものではない。』という記載が有ります。しかし僕は、何も無いところに特異的に意識が立ちあがるのは逆にイメージしにくいと感じています。また、ここに書いてある機能というのはおそらく定義が未消化なのではないかと思っています。自己や感情ではなくもっとミニマム方向のエッセンスが有るようなイメージだとも感じましたが、僕はそれであれば、単位クオリアの視点を提案します。そして同時に、意識のBUILDING BLOCK CONCEPTの視点を提案します。これは、多くの脳の活動と言われる高次のもの：感情、創発、self、仮想、意味理解、時間感覚、幻想の自由意志…が、基本的に意識システム上に有り、おおもととなっているのは、意識の最小単位：（様々な）単位クオリアとその複合クオリアである、という考え方です。
僕はミニマムの意識の視点を非常に重要だと感じていて、（勿論IITを強く支持しますが）同時に多くの視点を追加することも可能だと思っています。そしてここまでミニマムを気にしているのは、今考えている意識モデルがこの考え方をもとにしているからです。勿論IITをもとに構築したモデルでもあります。突っ込みどころは多く有るかもしれませんが、このブログで書いたのは、IITをベースとして議論を深めることができる可能性についてです。引き続き研究を深めていきたいと考えています。
■（補足…これは書かなくてもよかったのですが）素朴実在論について、記事の比較的早いところでこの話題を見ました。筆者の方はこの考えを極端に強く否定されているように見えますが、おそらく否定されている人々も、（直観的に思うのは）見えるものに加えて理論で説明できるものも理解できていると主張されているのではないかと思います。ここはあえてきつい言い方になりますが、筆者の極端に強いこだわりが見えてしまっています。僕としては、実はこんなところにもまだ議論の余地が有るし、強いこだわりを持つ人に対しても、新しい視点を示しながら敵対的な論調はできるだけ避け、本来の共通点を見出す可能性を考えるべきなのかなと思いました。
記事は、サロンで大泉氏の講演を聴講された内容となっていますが、記事中で大泉さんの話と筆者の考えが混在するところが有るように見えてちょっと気になりました。（もしかして誤解が有ればすみません。）
■実は昨年にも『シンギュラリティサロン #30』についてこの方のブログ記事が有り、僕はこれを読んで2018.9.11に、…それと…だれかハードプロブレムについて解説してあげてほしい。…とツイートしていました。この時はちょっと失礼だったかなと思いつつ、でも非研究者の方なので仕方がないのかなとも思っていました…
…と書いた後、念のため自分のツイートをtwilog検索してみたら、なんと2017.11.12にも同じ方の『シンギュラリティサロン #23』の記事を読んでツイートしていました。この時は、…最も興味深いのは無意識が担当では？の箇所。今のIITの流れでの無意識やミニマム意識の説明の違和感を感じたのかも…と書いていて、なんだか自分の疑問に近いところも有ったのか？と少し共感しています。
※なんと今回、約5年ぶりのブログ記事になります。
