トークンとは、AIが文章を扱うときの最小単位です。日本語ではおおよそ1文字が1〜2トークンに相当し、多くの生成AIサービスはこのトークン量に応じて料金が決まります。

入力できる量には上限がある

一度に渡せる文章量（コンテキスト長）にも上限があり、長大な仕様書はそのままでは扱えません。大きな資料は要点抽出やRAGでの分割が必要になります。