チャットが長くなると起こる問題
AIとの対話は便利だけれど、長く続けると以下のような問題が起こることがある。
- 途中の会話とずれ始める。
- AIが古い前提を取りこぼしているのに妙に自信満々回答をし始める
これらは、コンテキストと呼ばれる、AIの中のトークンがいっぱいになってきた場合、あるいは途中で担当しているインスタンス（AIの実体）が入れ替わったことによって起こる。
対策：チャットの話題の節目で「いままでのチャットの内容まとめて」ということ
AI側でやっているのは、ざっくり言うと次の2つだ。
- 直近の流れを、要点だけのサマリーにまとめる
- Summary（要約）
- Important Decisions（重要な決定）
- Next Actions（次にやること）
- その議事録を、1メッセージ分のコンパクトな「スナップショット」としてコンテキストに追加する
元の長い会話ログ（コンテキスト）はそのまま残っているが、
- 以後の思考は、この「要約スナップショット」を起点にできる
- 古い細かいやりとりが多少落ちても、要点は保持される
という意味で、実務上のコンテキストは軽く扱える*ようになる。
「議事録」とまったく同じ発想
人間のプロジェクトでも、
- 会議ログ全部（雑談含む）を毎回読み返すことはまずない
- 代わりに「議事録」「決定事項メモ」だけを参照する
という運用をしている。
AIに対して「いままでのチャットの内容まとめて」「この会議の内容を、議事録にして」と頼んでいるのと同じだ。
- 細かい会話が多少消えても
- 議事録さえ残っていれば「何を決めたか」「次に何をするか」は再現できる
その結果、以降の誤りは少なくできる。
おすすめの運用パターン
実際にやってみて安定している運用はこんな感じだ。
- 区切りのいいところで、AIにこう頼むここまでのセッションをレビューして、
・Summary
・Important Decisions
・Next Actions
の3つで整理して。 - 内容をざっと確認し、必要なら人間側で少し手直しする
- スレッドを切り替えるときはこの要約を外部に保管しておく。
- 別のスレッドに移動したときは
- 保存しておいたサマリーをAIに読み込ませる
- 「このサマリーを前提に続きから始めて」と伝える
これだけで、
- AI側の「思考の起点」が毎回要約に戻る
- 人間側も、「前回どこまで決めたか」を一目で確認できる
という状態を作れる。
まとめ
AIに向かって「ちゃんと議事録を取らせる」習慣さえ身につければ、長期のプロジェクトでも、かなり安定して対話を続けられる。
