大規模言語モデル（ＬＬＭ）を搭載した会話型ＡＩ、ＣｈａｔＧＰＴの登場以来、にわかにＡＩ（人工知能）が身近なものとなり、改めて人間と機械との違いが問われたり、ＡＩ時代にどう対応すべきかといった話題が持ち上がったりしている。その中で、「ＡＩに意識は生まれるか」「ＡＩは心を持つようになるのか」という問いは、議論の根幹を占めるものであり、広く多様な分野から検討されなければならない事柄だ。生活に必須なものになりつつ、理解に専門的知識が必要なＡＩの最前線を、ニューロＡＩ分野の第一人者が平易な言葉で解説するのが本書である。著者は京都大学理学部を卒業後、オランダのユトレヒト大学にて学位を取得し、米国のカリフォルニア工科大学と英国のユニバーシティ・カレッジ・ロンドンで認知神経科学の研究に従事した研究者。現在は起業して人工意識等の研究事業を行うかたわら、内閣府のムーンショットプロジェクトのプロジェクトマネージャーとして、AIを活用したブレインマシンインターフェイスの開発を指揮している。

　「この本では、研究者としての僕の半生を重ねながら、意識の不思議さと、意識をめぐる哲学的・自然科学的な理論を紹介していく。……できるだけ多くの読者に伝わるように、詳細は犠牲にして重要な部分だけを平易に解説したつもりだが、それでも内容は簡単ではないだろう。『意識』という大きなテーマの下ではあるが、哲学、言語学、神経科学、コンピューターサイエンス……と、内容が多岐にわたるからだ。ある分野の専門家であっても、他の分野を理解するのは難しいと思うが、意識という大きなテーマを理解するためには、特定の分野だけにとどまることはできない」（「はじめに」）

　ＡＩに関する議論の土台として、まずクオリアと意識のハード・プロブレムという概念をふまえておく必要がある。クオリアとは、リンゴを見たときに感じる強特の赤さや、紙で手を切ってしまったときの何とも言えない嫌な痛みのような、言葉にし難い「感じ」を指す。徹底して主観的で、客観的ではありえないもので、例えば「赤」についての客観的な知識をどれだけ積み重ねても、「赤い感じ」という肝心のものを知ることはできない。したがって、クオリアは科学的な記述を不完全にしてしまうものだとされる。意識のハード・プロブレムとは、物質および電気的・化学的反応の集合体である脳から、どのようにして主観的な意識体験（現象意識、クオリア）というものが生まれるのかという問題である。オーストラリアの哲学者デイヴィド・チャーマーズは、脳や認知の研究はかなり進んだけれど、意識についてはハードな問題が残されていると指摘している。

　著者はこうした議論を問い直し、「クオリアと、クオリアを引き起こす物理的実体との関係は絶対的なものではなく、環境や経験によってチューニングされた結果に過ぎ」ず、多くの人が同じようなクオリアを感じるのは、「みな同じような身体を持って、同じ世界に生きているからだ」と解釈する。そして、内部に持っている世界のあり方を「世界モデル」と呼ぶが、「僕たち人間は同じ世界モデルを持っているから、クオリアもおおむね同じなのだ」という結論を導き出す。さらに、そこから敷衍して、ある情報の構造がクオリアを生んでいるとするならば、脳がなくても、その構造さえ再現できればそこにクオリアが生まれることになると推論する。

　Ｐａｒｔ７以降では、ＡＩと意識を論じる際に重要な「意識の統合情報理論」を取り上げ、それをふまえた上で、Ｐａｒｔ９で人工意識について本格的に論述する。「意識の統合情報理論」（略称：ＩＩＴ）とは、ジュリオ・トノーニによって提唱された意識やクオリアの原理を説明し計測する理論のことで、何度もバージョンアップを繰り返して現在に至っている。この理論によれば、意識には、情報の多様性と情報の統合という二つの基本的特性があり、ある物理系が意識を持つためには、ネットワーク内部で多様な情報が統合されている必要があるとされる。

　ＬＬＭもＡＩの一つであり、ＣｈａｔＧＰＴに何か質問を投げかけると、もっともらしい答えが返ってきたりして、いかにも意識を持ちそうに見えるかもしれないが、ＩＩＴの主流となる考え方では、ＬＬＭには意識は宿らないと予測されている。しかし、著者は、ＬＬＭは人とはまったく違う、人には想像できないクオリアを持つ可能性があると主張する。

　「そもそもＩＩＴによれは、地球以外の惑星の生物でも、あるいは地上の機械でも、Φ〔筆者注：ファイ、ＩＩＴで統合された情報量のこと〕さえあればどんな自然現象も意識を持つと見なす。ただ、ヒトを含む動物の脳ほど多くの情報を統合しているシステムは、自然界には多くないだろう。

　哲学では、こういう考え方は、条件さえそろえば何でも心を持ち得るという『汎心論』に相当する。読者のほとんどを占めるであろう日本育ちの日本人はあまり抵抗を感じないと思うが、キリスト教文化圏の人々はヒトと他の動物の間に一線を引きたがるようで、動物、特にハエなど進化的により単純だと思われる動物には意識がないと主張する場合も多い」（Ｐａｒｔ７「意識の統合情報理論」）

　著者は、人間は世界について、ＡＩの世界でいう「生成モデル」を持っているという。ＡＩに世界モデルを与えるためには、ＡＩに世界の情報を与えればいいわけだが、ＡＩは人間の脳ほど多くの情報量を扱うことができないため、情報を圧縮する必要がある。また、人間が目や耳から受け取った刺激や記憶を基に思考しているように、いろいろな機能に特化したモジュール間を橋渡しする機能も備えなければならない。グローバル・ワークスペース理論と呼ばれるものだが、こうした条件を備えることができれば、ＡＩに、人間とはまったく異なる一種の意識が理論的には生まれうることを、著者は暗示する。

　ただしＰａｒｔ１０では、その際に考慮すべき点を挙げる。「意識を持つＡＩは脅威か？」「倫理と幸福について」「科学は価値の問題を扱えない」といった点である。

　「科学は価値の問題を扱えない。『生きる意味』についても答えを出すことはできない。個人の生も死も、ひいては人類の存在も、科学的にはなんの意味もない」（Ｐａｒｔ１０「人工意識とクオリアの意味」）

　「生きている」とはどういうことを指すのか、幸福であるとはどういう状態をいうのか、ＡＩについて考えることで、ふだん自明視している事柄を深く考える機会が与えられる。ＡＩ時代の到来に、２０００年前に生まれた宗教は光を失っていくしかないのか、それとも何らかのプレゼンスを発揮することができるのか。硬直したパラダイムを突き崩すのと同時に、蓄積されてきた知識を生かすという、新しい時代の幕開けに応える知恵が求められている。