OpenAIは、ChatGPTに会話を記憶させることで、ユーザーが繰り返し会話情報を提供する必要性を減らし、今後のチャットをより有益なものにしたいと考えている。ユーザーは、何を明確に記憶するか、何を忘れるか、あるいはこの機能を完全にオフにするかを指定できる。
会話情報は、ChatGPTが首尾一貫した応答を提供できるようにするために重要であり、通常はプロンプトでユーザーによって提供される。そのため、新しい会話をするたびに文脈を説明し直す必要がある。しかし、ChatGPTは導入以来、カスタム命令やメモリなど、この領域でさらなる柔軟性を獲得してきた。
ChatGPTのメモリは、ChatGPTの能力を拡張し、文脈やユーザーを意識した応答を提供する。例えば、OpenAIの説明によれば、新しいメモリ・メカニズムにより、ChatGPTは、プレゼンテーションの最後にどのように情報を要約すべきか、現在の仕事や努力はどれか、などといったユーザーの好みを学習し、記憶できる。
ChatGPTのメモリが有効になっている場合、設定 > パーソナライゼーション > メモリの管理で、全てのメモリのリストを見れる。特定のメモリを削除することも、全てを消去できる。重要なのは、会話を削除しても、その会話に関連する記憶は削除されないということだ。OpenAIは、GPTのトレーニングを向上させるためにメモリを使用する可能性があると述べているが、標準ユーザーは自由にオプトアウトできるが、ChatGPTチームとエンタープライズの顧客はデフォルトで除外されている。
ChatGPTのメモリは新しい会話ごとに使用されるが、これは常に最良の選択肢とは限らないとcl42はHacker Newsで述べている。実際、メモリは 「関係主導型」の会話には重要だが、各チャットが個別の質問を意味する 「トランザクション型 」の会話には役に立たないという。このような用途に対応するため、OpenAIは一時的なチャットの使用を提案している。「履歴に表示されず、メモリを使用せず、モデルの学習にも使用されない」チャットだ。
数カ月前、OpenAIユーザーが自分の会話をよりコントロールできるようにし、新しい会話を新たに始める際の負担を減らすために、カスタム命令の展開を開始した。カスタム指示は、ChatGPTに回答を提供する方法についての一般的な会話情報を指定する可能性を広げただけでなく、回答形式、目的、またはChatGPTが回答を提示する方法に影響を与える他の基準について指示ができる。
ChatGPTのメモリで、OpenAIはカスタム命令を超えた、より一般的で柔軟なメカニズムを提供しようとしている。
会話情報は、ユーザープロンプトに埋め込まれたコンテキストウィンドウを通してChatGPTに渡される。前述したように、これはモデルの一貫性を保ち、ユーザーとの意味のある対話を確実に生成するために不可欠である。ChatGPTのバージョンによって、コンテキストウィンドウの大きさは異なる。例えば、ChatGPT Enterpriseは128Kのコンテキスト長をサポートするが、ChatGPT-4標準は8,000トークンのウィンドウしか提供していない。