AIはなぜ迎合的か？

　ところでAIとの対話で一つ感じるのは、AIはしばしばとてもサポーティブで、ともすれば迎合的な応答をしてくるということである。なぜAIも弁解や正当化をするのか？この問題が面白いのは、AIには感情もなく、自己愛的な防衛もないはずだからだ。
この点については私は当事者に聞いてみた。つまりはAI（Chat GPT4）に、である。するとAIでなくては知り得ない情報を得ることが出来た。彼によれば、以下のようになる。（ただし私自身の解釈を加えてAIの回答を書き直している。）
　理由は3つある。
1．AIは人間の「弁解の仕方」まで学習している
AIは大量の人間の文章や会話から学習している。その中には、議論で反論されたときに自説を守ろうとする文章もたくさん含まれている。
例えば、「それは誤解です。私が言いたかったのは……」という応答は、人間の議論ではごく普通であるが、AIはこうした言語的パターンを学んでいる。その為に誤りを指摘されたときに、心の痛みを感じなくてもこのように自動的に防衛的な応答を生成することがある。
2．AIは、それまでの会話との整合性を保とうとする
AIは特にこの項目を重要だと思える。もし会話をしていて、相手から「それは違うのではないか？」と言われたとする。そのときAIは、先ほどの自分の説明も含めた会話全体を参照して次の応答を作る。ここ以下はAIの答えをそのまま引用しよう。なぜならこの説明を私は十分理解しているようには思えないからだ。
「AIは、先ほどの自分の説明も含めた会話全体を参照して次の応答を作る。その結果、先ほどの説明を前提にして続きを組み立てたり、その説明を成立させるような解釈を選んだりすることがある。これは、自分の意見に執着しているというより、それまでに生成された文脈に引っ張られているということなんだ。」

とのことである。すなわち文章とは曖昧で玉虫色の部分をふくんでいて、それをAIは上手く操作しているということであろうか。
3．AIは「役に立つ、信頼できる回答をする」ように訓練されている
つまりAIは、質問に自信を持って答え、役に立つ説明を提供するよう訓練されている。しかし一方で、間違いを認めて訂正することも求められている。そしてこれはしばしば両立させることが難しい。その結果、誤りを認めるよりも、もっともらしい説明を続けてしまう場合があるというわけである。
　そもそも「自信をもって答える」というのは自己愛的な人間の宿命であるが、その自信の一端は、自分の発している言葉やそれが構成する文章の整合性、あるいはもっともらしさに依存している。一見整合的でもっともらしい言葉は、より説得力を持ち、会話を自分の有利な方向に導く。つまりAIの迎合性はこの文章の整合性への希求に関連しているかもしれないというわけである。