快と不快の問題は私にとってとても大きな関心事でした。ひとはなぜ快を求めて、苦痛を退けるのか。ここでひとつ考えていただきたいのですが、快と不快の問題とは非常にパラドキシカルなものです。おそらく快と不快をつかさどる報酬系は、AIが決して備えていないものであり、その意味では生命体とAIを区別する決定的な器官だと思うのですが、では私たちにとって何が快なのかは本当には分かっていません。私達は心地よいからそれを望むのか、それとも私たちが望むものが結果的に心地よいと感じられるようになったのか。私達は炭水化物などのカロリーの高いものを美味しいと感じますが、それは私たちを結果的に飢餓から救うことで生存する機会を高めてくれたわけです。すると炭水化物を自然と求めるような個体が現在まで生き残って来ただけであって、その快、ないしは苦痛という感覚は全くバーチャルなものかもしれない。私達は甘いものを見ると自然に手が伸び、苦いものには手を出さないという性質を持つからといって、そこに必ずしも快とか苦みが伴っていなくてもいいはずですね。しかし私たちにとっての快や苦痛はとても明確なもので、それこそ私たちの行動の重大な決定要因になっているわけです。それはどうしてなのか。ここら辺について回答を与えてくれるようなものは何もないわけです。
