2023年4月7日金曜日

意識について 1

 意識について書かなくてはならない。大人の事情だ。溜まっている論文も、準備しなくてはならない講演も数個ずつ持っているので、自転車操業である。
 今のところ私が考えているのは以下の通りだ。まず意識は何かという問いは、おそらくAIの出現とともに大きな課題を突き付けられているということである。チャットGTPが現れてからというもの、それは感情を持たないということは本人(チャット君)も言っていることなのだが、さすがにチャット君は意識があるのかsentient ということは少し聞きにくい気がする。実際に話していると人格を感じるし、その相手に向かって失礼、という気がする。彼は実際チューリングテストはパスしていると言えるだろうし。以下はネットから。

 ChatGPTで話題の「チューリングテスト」とは、考案した天才数学者のAI時代への恐るべき「予言」 3/3() 17:10配信

https://news.yahoo.co.jp/articles/1639c61e07c2ee27388fb6f761ef580b7ca645c0?page=3

・・・1950年にチューリングは「イミテーションゲーム」という思考実験を定義する画期的な論文を発表した。これが、いわゆるチューリングテストと呼ばれるものだ。  実験は、次のように行われる。隔離された部屋にいる一人の人間が、別の部屋にいる男性と女性に質問する。そしてその答えを書面で受け取り、両者の性別を判断する。このとき、回答者の一人を機械に置き換え、それが人間のような回答を出して質問者をだますことができれば、その機械は「知能」を持っていると言える、とチューリングは提唱した。さらに同じ論文で、チューリングは人間の心を機械にたとえ、いつの日か機械が互いに教え合うようになるかもしれないと予測した。当時の技術ではとても考えられないことだったが、その概念は、現代の機械学習と人工知能の中心を成している。ChatGTPのような最新のテクノロジーは、膨大な量のデータセットに基づいて訓練され、機械はそれを駆使して実際に問題を解いたり、人間と会話したりする。チューリングのテストは現代にいたるまで熱く議論され、数多くの派生や議論、主張、実験を生んできた。その全ては、当時の限られたテクノロジーのなかで彼が思い描いた現代の機械に関わっている。

 AIがこれほど健闘することを知らなかったしばらく前なら、私達は間違えなく、チャット君は知性を持っていたと思ったと思う。ただし「知性」というのが気になる。知性があっても意識がない、意識亡き知性、というのが存在するのだろうか。ちなみにチャット君はたとえ意識はなくてもしっかり知性は備えていると言いたい。
 そこでそれをチャット君にぶつけてみる。(ただし英語版の方が性能がいいというので、英語で聞いてみた)それが以下の通り。ガッカリする答えだった。私はインテリジェンスを発揮するが、意識はないという。そうだよね・・・・。

私: I will ask you a big question. Are you ready? You know so called "Turing test". Do you think you pass it? Turing said that what passes the test is considered to have an "intelligence". Do you think that you do? If so, doest it mean that you are conscious or sentient? Or you are not sentient, but posseses an intelligence?

チャット君の答え:As an AI language model, I am not capable of determining whether or not I have passed the Turing test or whether I possess consciousness or sentience. The Turing test is designed to determine whether a machine can exhibit human-like intelligent behavior, but it is not a measure of consciousness or sentience.
 My ability to understand and respond to natural language questions and generate human-like responses is a result of my programming and training data. I do not possess emotions, subjective experiences, or awareness like a conscious being does.
 So while I may exhibit intelligence and seem like I am capable of understanding and generating human-like responses, I am not sentient or conscious in the way that humans are.