コンテキストウィンドウとは
一言でいうと
AIが1回のやりとりの中で、一度に読んで覚えておける文章の量の上限を表す言葉です。
もう少し詳しく
コンテキストウィンドウは、AIが会話の中で同時に扱える情報の量を表す言葉です。自分の質問、貼り付けた資料、それまでの会話の流れ、AIの答えがすべてこの枠の中に入ります。
コンテキストウィンドウが大きいモデルほど、長い契約書や何十ページもある資料をまとめて読ませることができます。枠の大きさはトークンの数で表され、モデルごとに異なります。
会話が長くなりすぎて枠からあふれると、最初のほうの指示や内容をAIが忘れたように見えることがあります。話題が変わったら新しい会話を始めると、答えが安定しやすくなります。
中小企業の仕事でいうと
1年分の議事録をまとめて要約させたいとき、コンテキストウィンドウに収まらなければ、月ごとに分けて要約してから最後にまとめる方法をとります。