意識についての理論を調べる時、最初に見つかる理論の一つとしてIIT(Integrated Information Theory…統合情報理論)が有ります。意識研究スライド資料の1章、3章でも言及していますが、ここではIITとは何かという基本の所(初めての人でも(小学生でも)わかるように)と、意識の定義を踏まえつつ僕が考える考慮した方が良さそうと考えるいくつかの観点について書いていこうと思います。
(1)IITのかんたんな話
(2)IITの少し細かい話
(3)(僕が考える)IITの気になる話
(1)IITのかんたんな話 IITはジュリオ・トノーニによって提唱された意識を説明する理論です。IITは初期には、意識レベルの定量化、つまり意識メーターを作る試みとして注目されている理論として紹介されています[1]。理論中で示される統合情報量が意識レベルまたは意識の中身の豊かさに相当すると考えられています。そして、「温度計に意識はあるか」というトピックで人以外のagentも含めて意識を持つ可能性を科学的に考えていくことの大切さが解説されています。
そして、統合情報量はΦという記号[2]で、システム全体が部分を超えてどれだけの情報を生み出すか[1] を示すものとして説明されています。
(2)IITの少し細かい話 IITは意識が存在するということを前提として認めることを出発点とし(中略)意識の本質的な性質を同定する。そして、意識の本質的な性質は数学で表現し、検証可能な予測を行う とされています[2]。IITには「意識が存在する」を含め5つの公理が有るとされています[2], [3], [4], [5]。
(以下の5つの公理の説明はトノーニとコッホが書いた、Consciousness: here, there and everywhere?[6]の説明をもとに省略・アレンジしたものです。)
1) 存在 意識は存在する
2) 構造 意識は構造化されている
3) 情報 意識は特別(な情報)である
4) 統合 意識は統合されている
5) 排他 意識は明確な粒度を持ちそれ以外は排除される
(3)(僕が考える)IITの気になる話 IITは、評価・批判、様々な意見を受けています。僕自身は意識は計測可能という計算論的な考えについて基本的に強く支持しています。一方で、気になる点についてこれまで多くコメントしてきました。網羅的な整理について当初考えていましたが、難易度が高そうなため、いくつかのトピックをピックアップし、機会が有れば修正したり追記したりする形にできればと思います。(この項、個人的なコメントです。理解不足も多く有ると思います。ご意見等いただければ修正・追記したいと思います。(Xアカウント: @mambo_bab までご連絡願います)また、このような理解不足や誤解についてもご指摘いただけるようなコミュニティがもし有れば教えていただきたく宜しくお願いします。)(IITを肯定的に評価する文章はweb上や論文など多く有りここでは書くまでも無いため、ここでは異論を多く書くことになってしまいますが、先述の通り僕はIITを強く支持しています。異論のところは何かの否定というわけではなく、このような少数意見の考えがわずかに有る可能性もご考慮いただければと思います。)
IITの気になるところべた書きドラフト
・意識の定義
ゾンビが意識を持たないというこだわり…おそらくプログラムされた自動反応は意識ではないという直感からもたらされた考えと思われますが(一方で生体はプロラムされているとも言える)、一方一部の生体は自動反応でアウェアネスも無いと思われます。
そこでフィードバックの考え方ですが、
一つはフィードバックでは信号を感知はしているがクオリア(高次の部分)を感知しているとは必ずしも言えないと思われること。(感知した信号をもとに制御が行われるが、信号自体はon-offに置き換えられるもので、色や痛みなどのいわゆるクオリアの中身を必ずしも伴わない。)
(注記)意識研究スライド資料_by mambo_bab では低次のクオリア(信号のon-offのようなミニマムな入力が有り神経細胞の反応が見られるもの)もクオリアであり意識(段階的意識の低次段階)であると説明しています。
(注記2)スライド資料の意識試論では、信号on-offのようなミニマムな入力とその反応(いわゆる石の意識)も意識とみなしています。その次の低次段階として例えば赤さや痛みの感覚を挙げていますが、同時に比較的低次の段階としてアウェアネスの有る意識を挙げることができると考えます。(シンプルな連想なども同様に低次段階の一つに考えられると思われます。)
言いたいのは、赤の赤さ、アウェアネス(自己モニターも)はそれぞれ別の並行した(並列の)意識の段階で、赤さを感じなくてもアウェアネスが有ったり、アウェアネスを感じなくても赤さを感じていたり(モニターが有って初めて赤の赤さが生成というのは少し不自然…その前から赤の赤さを生成する段階が有るのではないかという考えです…2026.03.15.追記)するということ。段階的意識の低次段階についてこれまで少しスライド資料での説明が粗かったのかもしれません。
そしてさらに(それより)高次の意識として、複雑な連想(意味理解なども含む)、自己(自己の獲得含む)、主体感、感情、創発…などが有るというのが意識研究スライド資料の試論です。(時間的連続性の獲得も高次の意識の一つという考えです)
LLMの意識を言う時も、赤さや痛み(の一部…直接の疼痛の感知は現状困難ですね)を感知することができなくても、アウェアネスに乏しくても(0.5秒毎の入力等で改善は可能という考えです…疑似的な自己モニターが有ると考えれば)、連想、自己、主体感、感情、創発等、獲得可能(可能性が有る)という考えです。
段階的意識…
ちょっと説明が難しいのですが、関連論文も有るし[7]、スライド資料の試論はそれをもう少し進めたものと思っていただければと思います。スライド資料で説明不足のところはこれから補っていきたいと思います。上記論文では意識の3分類を示し、意識が段階的に生じていると示しています。
段階的意識と言えばこちら[8]もご参考にしていただければと思います。
もう一つは、フィードバックを生体でなされるホメオスタシス起因のモニターに注目した、アウェアネスをもたらすものと考えているように読み取れること。ただしこれも、もし意識が段階的であるなら、必ずしも必須と考えなくてよいように考えています。IITで「意識は存在する」とうたうその意識はアウェアネスの有る意識なのか?IIT wikiなどでは、意識は「主観体験そのものから出発している」[5], [9]とされています。また「自分の意識が自分に属する感覚」[10]について重要の旨のお話をいただいていますが、もしその感覚が必要であるならば、僕自身は主観や自己との関りが切り離せないのではと考えています。(意識を段階的なものと考える余地が有るのであれば必ずしも必須である必要はないという考え。)
・ハードプロブレム、クオリアについて(後日追記)
ハードプロブレムについてはIITの中では言及されていないように見えます。
『クオリアは、我々の意識にのぼってくる感覚意識やそれにともなう経験のことである。』[11]とされています(脳科学辞典より)。IITにおけるクオリアについて、気になっているのが、アウェアネスの有るもののみ意識とみなそうとされている場合、アウェアネスの無い入力はクオリアとさえされないのかというところです。「自分の意識が自分に属する感覚」の無い入力も同様にクオリアとみなされないのではないかと心配しています。
意識研究スライド資料の3、5章等で、僕は「赤の赤らしさ」のようなシンプルな感覚をクオリアと考えることを提案しました。そこでは自己の感覚や「自分の意識が自分に属する感覚」を必須とはしていません。
一方で、IITでは上記の他、フィードバックの無い感覚を意識とは見なさない可能性が有りそうです。その場合、それらの感覚はクオリアではないのか?ではクオリアであるためには何が条件となるのか?このあたりを確認していきたいと考えます。
僕は蝶が自動機械であれば、(おそらく色の感覚を持つので)蝶の色の感覚はシンプルなクオリアの代表例…とも考えていましたが、実際には生物であるためモニターなどのフィードバックはなされているようです。ただここでモニターが色の感覚の創出に直接寄与しているとは考えにくいと思っています。
(色の感覚自体はいわゆる錯視様の変換、または電撃を閃光と感じる類の変換で生じると考えています。(6章参照))
蝶よりもっとシンプルな(モニターさえ無い)微生物や幼生などで色の感覚が発見できればわかりやすいのですが難しそうです。痛みや味の感覚も難易度が高そう。感圧や明暗のクオリアを考えることは比較的容易と思われますが、それが再現できたとしてもそれはクオリアなのかという「溶け始めたハードプロブレム」の問題(意識研究スライド資料6章参照)の理解が必要となってくる可能性が有ります。
・排他の公理(後日追記)
例えば結合脳やスポーツチーム等、様々な事例を考えてみた時、例えばスポーツチームのプレイングキャプテンが全てを経験し制御を掌握するようなことを仮想すると、「集団としての自己や意図を持つことが考えにくいので」集団の意識を確認することは難しいと感じます。一方で、ファイの大きさの程度によっては、agentA、agentBの意識とは異なる、結合脳の意識Cが生じる可能性が絶対ないとは言えないような気もしています。
※tweetではもっと多く挙げましたがいったん絞り込んでnote化します。
参考文献:
[1] 温度計に意識はあるか
(IITの初期の比較的平易に書かれた資料。クオリア構造のサイトの参考資料リンクより)
[2] 統合情報理論から考える人工知能の意識
(IIT 3.0の発表後に書かれた日本語解説資料。クオリア構造のサイトの参考資料リンクより)
[3] From the Phenomenology to the Mechanisms of Consciousness: Integrated Information Theory 3.0 (IIT 3.0原著論文)
[4] Integrated information theory (IIT) 4.0: Formulating the properties of phenomenal existence in physical terms (IIT 4.0原著論文)
[5] IIT Wiki (英語サイト)
[6] Consciousness: here, there and everywhere?
[7] Consciousness beyond the human case
[8] Towards a Mathematical Structure of Global Phenomenal Consciousness
[9] 「意識 = 情報」なのか?
[10] 「自分の意識が自分に属する感覚」
[11] クオリア - 脳科学辞典