ChatGPTのような大規模言語モデル（LLM）がやっていることはあくまでも、シンプルに言えば「次の単語を予測する」ということであって、そこに人間のような主観的な意図や思考過程を持つわけではないということを、それを使う僕ら人間側が理解しておくことは大切です。
一方で、ChatGPTが次の単語を予測した結果として出てきた「生成物」に対して、「何かしらの理由づけ」をすることによって納得感を高め、それを行動の原動力とすることの重要性もまた、僕ら人間側が理解しておくことが大切だと考えています。
今回（Day19）の会話 ********************* 【佐藤】当事者（人間側）が入力した「目的」「現状」に関する情報を基に、あなたが「あるべき姿」に関する情報を生成する際、当事者や他のスタッフは、「なぜ、あなたはそのような『あるべき姿』を描いたのか」ということも知りたいのではないかと思います。言い換えれば、場合によってはさまざまな「あるべき姿」を描くことができる中で、他でもない、その「あるべき姿」に関する情報に至った理由です。
「あるべき姿」とは旅で例えると目的地を意味しますから、あなたが描いた「あるべき姿」という目的地に関して、より「その場所にたどりつきたい」と思うためには、あなたがその目的地をおすすめした理由を当事者を含めスタッフは知りたいのではないか、私はそのように考えています。
つまり、あなたが生成した具体的な「あるべき姿」に関する情報を知ることは、当事者を含めスタッフの「理解」につながる一方で、あなたが他でもない、その「あるべき姿」に関する情報を生成した理由を知ることは、当事者含めスタッフの「納得感」につながると整理することができます。そして、実際の医療現場の問題解決においては、人間が実行する以上、そのような「納得感」は大切だと考えています。
では、このような考え方を前提にしたうえでお伺いしますが、あなたが「あるべき姿」に関する情報を生成した際、そのような「あるべき姿」に至った理由も説明することは可能でしょうか？
【ChatGPT】AIが「あるべき姿」を提案する際のプロセスは、基本的には大量のデータからパターンを学習し、それを適用するというものです。具体的な判断の基準は、学習したデータとその中で見つけたパターンに基づいています。したがって、ある特定の「あるべき姿」を提案した理由を具体的に説明することは、現在のAIの能力では難しいです。 しかし、AIのアルゴリズムや設定によっては、ある程度の説明可能性（Explainability）を持たせることが可能です。たとえば、特定の特徴が結果に大きな影響を与えたことや、その特徴がどのように判断に影響を与えたかなどを示すことはできます。これは、AIが「あるべき姿」を提案した背後のロジックや理由を明らかにする一助となります。 ただし、これらの説明はあくまでAIが学習したパターンに基づいたものであり、人間の意識的な判断や感情とは異なるため、人間が直感的に理解する「理由」や「納得感」とは異なる可能性があります。
【佐藤】では、あなたに「あるべき姿」に関する情報を生成してもらう際、実際に当事者はどのようなプロンプトを入力すれば、ある程度の説明可能性を持たせる、言い換えれば、あなたから説明可能な範囲で何かしらの回答を得ることができるのでしょうか？
【ChatGPT】AIが提供できる説明可能性の範囲は、AIの学習モデルやアルゴリズムに依存します。しかし、一般的には、AIに対して特定の質問をすることで、その「あるべき姿」の提案に対する説明を求めることができます。以下に具体的なプロンプトの例を示します：
1. "あなたが提案したあるべき姿は、どのような情報に基づいていますか？" 2. "このあるべき姿を提案した主な理由は何ですか？" 3. "他の可能なあるべき姿と比較して、このあるべき姿が選ばれた理由は何ですか？"
これらの質問は、AIがあるべき姿を提案した理由についての情報を提供することを目指しています。ただし、AIがどの程度具体的な説明を提供できるかは、AIの設計と学習データに大きく依存します。 また、AIはあくまで学習したパターンに基づいて答えを生成しますので、人間のような主観的な意図や思考過程を持つわけではないことを理解しておくことが重要です。