3.2 LLM会話履歴サービス

会話履歴サービスとは？ LLM（大規模言語モデル）はステートレス（状態を持たない）なAPIとして提供されることがほとんどです。つまり、モデル自体は過去のやり取りを記憶していません。ユーザーとAIが自然なチャットを行うためには、システム側で過去の会話履歴を保持し、新しい入力のたびに過去の履歴を含めてAPIに送信する必要があります。