AIは信頼に足るのか？ 1

 この問題はそもそも私たちがAIと関わるにあたって極めて重要である。最近AIを用いるとき、決まって次のような注意事項がみられる。「ChatGPTの回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください。」 おそらく昨今AIの hallucination の問題が論じられ、AIを提供する側もAIがもたらす誤情報により訴訟問題に発展しかねないことを考慮して、このような disclaimer を最初に掲げているのであろう。しかし誤情報を伝える可能性があるのは人間も同じである。その私たちが人間同士で対話をする際に、最初に「私のいうことは必ずしも正しいとは限りません」といちいち断るであろうか。するとこのような disclaimer を掲げることの方が、むしろそれだけ信頼度が増すという考えも成り立つでろう。 AIの信頼性について論じる際には次のことがまず問われなくてはならない。もしAIの制作者が 使用者をだます目的で特殊なアルゴリズムを忍ばせていたらどうだろう？しかもそうとは簡単に見破られないような巧妙な仕方で、である。するとAIを信頼できるかという問題に単純な正解などほとんどあり得ない事がわかる。ただしこれも、同様のことは人間にとっても言えるのである。私たちは対話の相手が自分に対してどのような感情を抱いているかがわからないことが多い。信頼がおけそうな話し方をしながら、実は自分をだまそうとしているのかもしれない。あるいはおおむねにおいて誠実であっても、どこかに偽りの情報を伝えようとする意図を、無意識的に持っていないとも限らない。だからこれも単純な答えのない問題である。