コンテキストウィンドウとは?
こんてきすとうぃんどう
コンテキストウィンドウとは、AIの言語モデルが1度の処理で参照できるテキストの最大量(トークン数)のことです。
コンテキストウィンドウ(Context Window)とは、大規模言語モデル(LLM)が一度の推論で入力・参照できるテキストの最大長を示す概念で、通常はトークン数で表されます。「コンテキスト長」とも呼ばれます。
言語モデルは会話の履歴、与えられた文書、システムプロンプトなど、すべての情報をこのウィンドウ内に収める必要があります。コンテキストウィンドウを超えたテキストはモデルが直接参照できないため、長い文書や長時間の会話では内容が「忘れられる」ことがあります。
コンテキストウィンドウに関する主なポイントは以下のとおりです。
- サイズの進化:初期のモデルは数千トークン程度でしたが、現在の主要モデルは数十万〜百万トークン超の長文脈に対応するものも登場しています
- 入力と出力の合計:ウィンドウサイズはプロンプト(入力)と生成テキスト(出力)の合計で消費される
- コスト・速度との関係:コンテキストが長いほど計算リソースと処理時間が増加する傾向がある
- RAGとの関係:コンテキスト長に収まらない大量文書は、検索拡張生成(RAG)で必要部分だけを動的に取得する手法が使われる
コンテキストウィンドウはAIシステムの設計において非常に重要なパラメータであり、長文要約・コード解析・多回合の対話など、実用シナリオの限界を決める要因のひとつです。
使い方・例文
「この小説全体はコンテキストウィンドウに収まらないため、章ごとに分けて送信する必要がある」というように、AIに与えられる情報の上限を指す文脈で使われます。
この用語をシェア
最終更新: