AIのトークン消費を抑える方法｜ChatGPT・Claudeの使い方とAPI最適化

ChatGPTやClaudeを使っていると、「利用上限に早く達する」「APIの費用が増えてきた」と感じることがあります。トークン消費を抑えるには、単に指示を短くするのではなく、AIに渡す情報と生成する情報を、目的に合わせて整理することが大切です。

この記事では、普段のチャットでできる工夫から、APIやAIエージェントの開発で使える方法まで解説します。

トークンとは？利用上限とAPI料金の違い

トークンは、AIが文章などを処理する際の単位です。文字数や単語数とは一致せず、言語、記号、モデルによって分割方法が異なります。入力した文章だけでなく、会話履歴や添付資料、ツールの結果、AIの出力も処理量に関係します。

似た言葉でも、次の3つは区別が必要です。

ChatGPTやClaudeの定額プランの利用上限と、開発者向けAPIの従量課金は別の仕組みです。Claudeも利用上限と会話の長さの上限を区別しています。詳しくはOpenAIのトークン解説とClaudeの利用上限に関する説明を参照してください。

ChatGPT・Claudeのトークン消費を抑える共通のコツ

目的と成果物を最初に伝える

曖昧な指示は、期待と異なる回答や追加のやり取りにつながります。「誰に向けて」「何を」「どの形式で」作りたいかを伝えましょう。

例えば「この資料をまとめて」よりも、「経営会議向けに、結論・主要な数字・意思決定が必要な点を各3項目以内でまとめて。不明な数字は補わない」と指定すると、必要な情報を得やすくなります。大切な条件を削りすぎると修正が増えるため、短さだけを優先しないことがポイントです。

長い会話は必要な情報を引き継ぐ

会話が長くなったら、作業の区切りで目的、決定事項、制約、完了した作業、未解決事項をまとめ、新しい会話へ引き継ぐ方法があります。要約には抜けが生じるため、重要な金額や契約条件、原文は必要に応じて元資料も確認しましょう。

Claudeでは条件によって長い会話の自動管理が利用できますが、長い会話で利用枠の消費が増える場合もあります。利用できる機能や上限はプラン・設定により異なります。 Claude公式ヘルプ

資料と出力を必要な範囲に絞る

契約書の確認なら対象条項と関連する定義、エラー調査なら発生時刻の前後、表の分析なら対象期間と必要な列を渡します。ただし、例外や前後の文脈が結論に影響する場合は一緒に渡してください。

出力についても「結論を2文、理由を3項目」のように指定できます。既存文章の修正では「第2段落のみ修正し、変更後の段落だけ表示」と頼むと、全文の再出力を減らせます。

モデルやツールを作業に合わせる

単純な文章整形や分類は、軽量なモデルや標準的な設定から試せます。一方、複雑な設計や重要な判断は、必要な能力を持つモデルや確認工程を選びましょう。Claudeでは、不要な場合に拡張思考をオフにすることや、利用可能な設定でeffortを下げることが案内されています。

検索や外部サービス連携も、結果が文脈に加わる場合があります。誤字修正には検索が不要なことが多い一方、最新の料金や制度の確認では、根拠の確認を優先してください。

共通指示を整理する

ChatGPTやClaudeのプロジェクト指示、開発時の共通指示ファイルには、目的、必須の制約、用語、成果物の形式など、繰り返し必要な情報を残します。一回限りの作業条件は、その依頼に記載すると整理しやすくなります。

API・AIエージェント開発でできる技術的な対策

使用量と成功率を計測する

最初に、機能ごとの入力・出力トークン、キャッシュの読み取り・書き込み、応答時間、費用、タスク成功率を記録します。OpenAI APIではレスポンスの使用量を確認できます。Claude APIには送信前に入力を見積もるトークンカウント機能があり、実行後の使用量も確認できます。事前の数値は推定値です。 OpenAIの使用量説明、Claudeのトークンカウント

一回あたりのトークンが減っても、精度が下がって再実行が増えれば、作業全体の費用は増える可能性があります。

履歴を無制限に送らない

会話全体を毎回APIに送ると、長い会話ほど入力が増えます。用途に応じて、直近の履歴に絞る、古い履歴を要約する、必要な過去情報だけ検索する、といった方法を組み合わせます。要約には数字、日時、承認状況、未解決事項、例外条件を残し、必要なら原文を参照できるようにします。

RAGで必要な資料だけ渡す

RAGは、質問に関連する資料を検索し、その部分をAIに渡して回答させる方法です。大量の社内マニュアルを毎回丸ごと入力する代わりに、関連箇所と出典を渡せます。取得範囲を狭めすぎると例外を見落とすため、検索精度と回答品質を合わせて評価します。

プロンプトキャッシュを利用する

繰り返し使う共通指示や資料を含むAPI処理では、プロンプトキャッシュにより、再利用する入力の費用や処理時間を抑えられる場合があります。変わらない指示や資料を前方に、毎回変わる質問を後方に置く設計が基本です。

Claude APIは `cache_control` による自動キャッシュと明示的な指定に対応しています。キャッシュの最低対象量、保持時間、書き込み・読み取り料金はモデルや設定によって異なります。OpenAI APIも最新のモデル別料金を確認してください。キャッシュは入力内容を消す仕組みではありません。 Claudeのキャッシュ仕様、OpenAI APIの料金

出力上限とツール結果を調整する

分類やデータ抽出では、必要な項目だけを返す形式と、適切な出力上限を設定します。上限が低すぎると回答が切れるため、実際の応答を見て調整します。

AIが使う検索、データベース、コマンドの結果も、必要な条件と列に絞ります。例えば顧客データ全件の代わりに、対象顧客の契約状況と直近の問い合わせだけを渡す方法があります。ログはエラー発生箇所の前後に絞り、必要ならプログラム側で集計や重複除去を行います。

処理の難易度に応じてモデルを使い分ける

簡単な分類には軽量モデル、複雑な判断には高度なモデルを使い、高リスクな結果には人の確認を加える設計が考えられます。これは主に費用を抑える方法であり、モデルを変えれば必ずトークン数が減るわけではありません。モデルごとに同じ文章のトークン数が変わることもあるため、実データで測定します。

削減を優先しすぎないためのチェック

ChatGPTとClaudeでまず見直したいこと

設定の名称や利用できる範囲は、プランやモデル、時期により変わります。長い会話を新しくする場合は、重要な条件や決定事項を引き継いでください。Claudeの利用上限とプロジェクトに関する案内は公式ヘルプで確認できます。

改善前・改善後のプロンプト例

例1：資料の要約

改善前：「この資料を詳しくまとめてください」

改善後：「この資料のうち第2章を対象に、経営会議で判断が必要な論点を3つ挙げてください。各論点に、根拠となるページ番号と資料に記載された数字を添えてください。記載のない数字は推測しないでください」

対象と用途を明確にすることで、不要な長文を抑えつつ、必要な根拠を残せます。第2章以外に重要な前提がある場合は、関連部分も渡してください。

例2：文章の修正

改善前：「この記事をもっと読みやすく直して、全文を書き直してください」

改善後：「第3見出しの下にある2段落について、意味と数字を変えずに、1文を短くしてください。変更後の2段落だけを表示してください」

修正対象と変更してはいけない条件を指定すると、確認する範囲も明確になります。ただし、全文の流れを見直す必要がある場合は、周辺の文章も含めて渡します。

例3：長い作業の引き継ぎ

「新しい会話へ引き継ぐため、目的、決定事項、守るべき制約、完了した作業、未解決事項、次の作業を整理してください。数字や固有名詞は原文のまま残し、推測と確認済みの事実を分けてください」

作られた要約を人が確認してから新しい会話に渡します。契約条件や重要な引用は、要約だけでなく原文も参照できる状態にしておきましょう。

APIの費用を考えるときの例

費用は、入力・出力の量と、使用モデルやキャッシュなどの単価で変わります。単純化すると次のように考えられます。

「通常入力トークン × 入力単価」＋「キャッシュ対象トークン × 対応する単価」＋「出力トークン × 出力単価」

これは考え方を示す式です。キャッシュの書き込みと読み取りが別料金の場合や、その他の機能料金がある場合は、それぞれ加えます。1回の費用だけでなく、失敗や再実行を含む、目的達成までの合計で比較してください。実際の料金はOpenAI API料金表とClaude API料金表で確認しましょう。

例えば、繰り返し使う社内マニュアルを毎回入力するアプリでは、キャッシュが有効な時間内に同じ部分を再利用できるかが重要です。キャッシュの書き込みにも費用がかかる場合があり、再利用の頻度が低ければ必ず安くなるわけではありません。

よくある質問

新しい会話にすれば必ず節約できますか？

必ずではありません。古い履歴を持ち越さずに済む一方、長い資料や背景を再度渡す必要があれば、その分の入力が発生します。作業の区切りや話題の変更時に、必要な情報だけを引き継ぐ方法を検討してください。

日本語より英語を使うほうが必ず安いですか？

一律には言えません。トークンの分割方法はモデルや文章によって異なります。英訳の手間や意味のずれも考慮し、必要なら実際のモデルで計測します。

短い回答を頼めば、必ず利用上限に達しにくくなりますか？

回答が短ければ出力は減りやすいものの、入力、会話履歴、思考、ツール利用なども関係します。サービスの利用上限の算定方法や使用できる設定は、プランやモデルによって異なります。

プロンプトキャッシュを使うと、会話の内容を省略できますか？

いいえ。キャッシュは、すでに処理した共通部分の再利用を助ける仕組みです。会話に必要な情報自体は残り、利用条件や計測方法はAPIごとに確認が必要です。 Claudeのキャッシュ仕様

まとめ

普段の利用では、目的を明確にし、会話や資料を必要な範囲に整理するところから始めましょう。開発では、まず使用量と成功率を計測し、履歴管理、資料検索、キャッシュ、モデルの使い分けを検討します。

トークンを減らす目的は、必要な品質を保ちながら、利用枠や費用を効率よく使うことです。一回の消費量だけでなく、やり直しを含む作業全体で判断しましょう。

関連する記事

AIの出力を業務で活用する際の確認方法は、AIで作成した原稿を公開する前のチェックも参考にしてください。サイト制作でのAI活用は、AI時代のWEBサイト制作で確認したいことで解説しています。