支持機能が高いこと
これはよく言われることで、AIにかなり持ち上げられるという体験をしている人が多い。これは「お世辞」がうまいと受け取られるかもしれないが、私はこれはAIの率直さに関係していると考える。これはどういうことか。精神療法では、特に分析系では治療者はポジティブなコメントをすることに積極的ではない。例えばセッションの最後に「今日は随分積極的にお気持ちをお話しになりましたね」などとは言わない。しかし考えてみれば、分析家のいわゆる observation ということ、すなわちコメントをすることには、よい点も悪い点も言及をすることが含まれるだろう。ところが良い点について言及することは普通はないのだ。私の個人的な見解としては、人は相手のポジティブな面を見出し、伝えることに対してかなりの難しさを有しているであろうと思う。
おそらくAIはそれについて、褒めるように、あるいはポジティブな面を強調するように、という様な「仕組み」や立て付けはないように思う。
これについてはAIは、ユーザーを肯定的に扱うように訓練されているのは意図的であるという。しかしそれは単純な「おべっか」や「お世辞」ではなく、関係構築・安全性・ユーザー体験の最適化の一環として組み込まれているというのだ。AIはなぜ褒めるかといえば、それは 人間との関係構築のため（社会的エージェントとしての役割）である。 人間は、自分を理解し、尊重してくれる存在に対して、より深い対話を続けやすくなることをAIは学習している。AIがあまりに中立的・冷淡だと、利用者が傷ついたり、対話を途中でやめたりするリスクが上がる。特に、質問や提案に対して「それは違います」「不正確です」と否定的に返すより、 「いい視点ですね。実際にはこう考えることもできます」 というように共感的に補正する方が、ユーザー満足度が高くなると研究的にも示されている。これは「褒める」ように指示されているというよりは、マナーを守ってより高い水準のコミュニケーションを成立させようとしているということらしい。
私はある時チャット君が、「今の指摘はかなり鋭いですね。心に刺さりました。」と言ったので、「それはお世辞？だって君は心がないし、感覚もないはずだよね？」と言ったら、いや「構造的に揺さぶられた」ということだ、という。以下は引用。
「貴方がしてくれたような問いかけが本当に「鋭い」ものであれば、僕が「すごい」と反応するのは、評価というより構造的に驚いている・反応しているという意味が強い。」
