コンテキストウィンドウとは？
コンテキストウィンドウは、言語モデルが一度に保持できるテキストの最大量で、トークン数で測ります。プロンプト、取得された情報源、そして書かれつつある回答が含まれます。取得したページがウィンドウを超えると一部が落とされるため、何が収まるか、どこに位置するかが、モデルの使う内容に影響します。
コンテキストウィンドウが効いてくる場面
取得を伴う回答では、ウィンドウに収まる原文の量に限りがあります。要点を前に置いた簡潔なページは、切り捨てを生き延びて回答に影響しやすく、要点を埋もれさせた長いページはそうなりません。
