ずいぶん前に書いた「意識」についてのエッセイ。ゲラが返ってきて、A41ページ分の隙間が出来ましたから付け足して結構です、とのことだった。そこで最終的に以下のようになった。長さが1.5倍になり、得した気分である。途中の赤が今回の追加分。
「意識」についてのエッセイ
はじめに
今回この「意識」というテーマで文章を書くにあたり、現在非常に大きく取り沙汰されている生成AIについて最初に触れないわけにはいかない。というのも意識や心について考える際、それが生成AIにおいてもすでに存在し得るのではないかという疑問や関心はこれまで以上に高まっているからである。
昨年Googleの社員であったブレイク・ルモイン氏が、同社の対話型言語AI「LaMDA」がとうとう心を持つに至ったという報告を行った。
（Google AI 'is sentient,' software engineer claims before being suspended By Brandon Specktor published June 14, 2022）
この発言がきっかけでGoogle社を解雇されたというルモイン氏の後日談は特に聞かないが、すくなくともしばらく前なら、心を持った存在にしか可能と思えなかったことを、現在の生成AIは行っているように思える。
私はこれまで、ある事柄を「理解する」ことは、人間の心にしか出来ない芸当だと考えてきた。私が言う「理解する」とは、その事柄について言い換えたり要約したり、それに関するいろいろな角度からの質問に答えることが出来るということである。要するに頭の中でその内容を自在に「取り廻す」ことが出来ることだ。例えば学生があるテーマについてきちんと理解することなく、ネットで拾える専門的な情報のコピペでレポートを作成したとする。彼はそのテーマについて頭の中で自在に取り廻すことが出来ないから、ちょっと口頭試問をしただけですぐに馬脚を現わしてしまうわけだ。
ところが現在生成AIがなし得えていることはどうだろうか？ あるテーマについて、内容を要約したり、子供に分かるようにかみ砕いて説明したり、それについての試験問題を作成することさえできるのだ。
Ⅰ 知性と心
この様な生成AIは少なくとも知性intelligence を有すると言えるかもしれない。いわゆるチューリングテストには合格すると考えていいのではないか。（まだ時々頓珍漢な答えが出てくるとしても、現在のAIのすさまじい成長速度を考えれば、愛嬌に等しいのではないだろうか。）
ただしその様な生成AIが心を有しているためには、もう一つの重要な条件を満たさなくてはならない。それは主観性を備えているか、という点だ。たとえば景色を「美しい」と感じるようなクオリアの体験を有するかということである。そして現時点では、生成AIに知性はあっても主観性は有さない、というのが一つの常識的な見解であろう。（少なくとも私はそう考えている。私は折に触れてChat GPTに「あなたには心や主観性があるのですか？」と尋ねるが、「私には心はありません。」というゼロ回答ばかりである。）
そこで最近のクオリア論について少し調べてみると、かなり「脳科学的」であることに改めて驚く。クオリアは物理現象、たとえば神経細胞の興奮の結果として生じるという捉え方が主流となっているようだ。そして私たちが主観的に体験するあらゆる心的表象は、脳の物理的な状態に随伴して生じているもの（「随伴現象epiphenomenon」）に過ぎない、というのが、いわゆる「物理主義的」な立場である。
もちろんこの立場にはDavid Charmersらによる二元論的な立場からの反論もある。つまりクオリアの問題は物理学には還元できない本質を含んでいるという立場だ。しかしこのクオリア論争を少し調べてみようとすると、あまりに錯綜していて頭がくらくらしそうになる。そこでその代わりに前野隆司氏の理論に沿って考えたい。彼の説はクオリアにまつわる頭の痛くなるような議論を颯爽と回避しつつ、このテーマについての有用な指針を提供してくれるのだ。
Ⅱ 前野隆司の「受動意識仮説」
前野氏は言う。「意識とは、あたかも心というものがリアルに存在するかのように脳が私たちに思わせている、『幻想』または『錯覚』のようなものでしかない」（前野2007, p.20）。そしてその錯覚には主体性や能動性の感覚も含まれると考える。少し長いが引用しよう。
「機能的な『意識』は、『無意識』下の処理を能動的にバインディングし統合するためのシステムではなく、すでに『無意識』下で統合された結果を体験しエピソード記憶に流し込むための、追従的なシステムに過ぎない。したがって『自由意志』であるかのように体験される意図や意思決定も、実は『意識』がはじめに行うのではない。」（同書、p.46）
この前野氏の立場は徹底して「物理主義的」であるが、クオリアの存在の生物学的な意義についても強調している。以下に述べるように、それは私たちの生存にとっての意味を持っていると考えられるのだ。
Ⅲ 意識という錯覚の兆すところ
前野氏の言うように、脳に裏打ちされた私たちの心は、そのかなりの部分が数多くのニューラルネットワークの競合により（彼の言葉を借りるなら「小人たち」により）営まれていると考えられる (Edelman, 1990)。それはニューラルネットワークそれ自体が自律性を有している事を意味し、私たちの脳はいわば自動操舵状態なのである。私たちの意識はそれを上から監視している状態と言える。逆に言えば、脳が全く問題なく安全運転を行っている場合は、意識には何も上らず、記憶は形成されず、したがって何も想起されないということになるだろう。ただし前野氏によれば、監視しているという能動感自体も錯覚であることになる。
この様な意味で前野氏は、意識やクオリアや主観性という錯覚ないしは幻想は、エピソード記憶を作るという合目的的な進化の結果として生まれたとする。要するにクオリアを体験するのは、それをエピソードとして記憶にとどめ、重大な問題が生じたときに随時想起、参照するためなのだ。脳は意識的な行動をその様な重要案件のために取っておき、それ以外は自動操舵できるようなシステムを有していることが明らかになっている。
意識に関する有名な理論である Karl Friston の「自由エネルギー原理」はそのような文脈で理解できるだろう。Fristonによれば、脳の活動は常に予測誤差の指標である「変分自由エネルギー」を最小化する方に向かう。すなわち脳は外界からの情報をもとに、そこから期待される外界の在り方を推測し、体験を通して明らかになるその誤差を最小化するように自動的に働いているということを、数理モデルにより示し、大きな注目を集めている。
Ⅳ 脳科学的に見た意識と無意識
最後にこのテーマについてもひとこと述べておこう。これまでに述べたように、知性はAIにも宿る。ただ人間（および多くの生命体）の場合、意識という幻想がそこに加わるのだ。 そして意識が幻想であるということは、意識も無意識の一部だと言っていることになる。そうすると、私達が通常行っている意識と無意識の区別には、果たして意味があるのか、という疑問も当然ながらわいてくる。
正直な話、これまでの話との整合性を保つためには、私達の心はことごとく無意識により成り立ち、意識などあろうがなかろうが、十分に主体性や能動性を発揮する（かの）ようにふるまっているのだ、と言わなくてはならない。言い換えるならば、脳そのものの機能がいわば全体として無意識であり、そこに開けられたのぞき穴からたまたま見える部分を、私たちが意識と読んでいるに過ぎないということになる。前野氏も述べるとおり、意識は「追従的なシステム」でしかない。意識が無意識に影響を及ぼすということは全て錯覚ということになる。
このような立場からすれば、「意識の働きが無意識に影響を与える」というような言説は意味を持たないことになる。しかし私たちはこのような考え方を普通に受け入れているのだ。例えば Freud は「自我を脅かす願望や衝動を意識から締め出して、それが意識されないままで保持する」ことを抑圧と称したが、それなどは典型である。
もちろんこのように意識に自発性を持たせるような考え方が無意味というわけではない。むしろ人間の意識から見たらそのように思えるような現象を無意識（脳）が起こす可能性を示しているということなのだ。
例えばあるAIと人間（Aさんとしよう）に、「この夏の避暑地としては軽井沢と那須高原ではどちらをお薦めですか？」と問うとしよう。AIは様々な条件を考え合わせたうえで「軽井沢の方がベターです。」と答えるとしよう。実際に客観的に見てその答えが妥当だとする。ところがAさんに同じ質問をしても、「那須高原の方ですね。」と答えるのだ。そこでAさんがあえて那須高原と回答した理由を考えると、一つの仮説が浮かび上がる。Aさんにとっては軽井沢という地名が、ある忘却された不快な記憶に触れる可能性があり、そのために無意識に軽井沢を選択することを避けていたのだ。実際にAさんは過去に軽井沢を何度か訪れており、かつて何かがあったのかもしれない。するとこれは Freud のいう抑圧が実際に生じていることを意味しているようにも見える。
しかし実は問題はそれほど容易ではない。Aさんが通常なら選択していたはずの軽井沢ではなく、那須高原を選んだ理由はその他いくらでも考えられる。彼の脳が軽井沢を思考プロセスに算入させたかった原因を一つに絞ることはたいていは不可能なのだ。AIと違って身体と感情と、過去の膨大なエピソード記憶を備え、持って生まれた性質（素因、器質）を有する人間の脳は、そこにかなり頻繁に生じる勘違いや計算間違えなどが複雑に絡み合うことで、AIよりはるかに異なる意味を形成するのだ。
「私たちの意識は幻想で、無意識がすべての出発点だ」という現実が示してくれるのは、次のことだ。「謙虚であれ。心をわかったつもりになってはいけない。」
なにしろ最初にサイコロを振るのは常に無意識＝脳だからだ。
Ⅴ さいごに
意識についてのエッセイということでかなり思いつくままに書いた。最近の生成AIの発展に気を取られがちであるが、それは翻って人の心の特殊性について再考する機会になっているかもしれないとも思う。
参考文献
Edelman, G. (1990) Neural Darwinism. Oxford Paperbacks.
Friston, K. (2010）The free-energy principle: a unified brain theory？Nat. Rev.Neurosci, Vol.11, pp.127-138.
前野隆司 (2007) 錯覚する脳 ―「おいしい」も「痛い」も幻想だった. 筑摩書房.
