トークンカウンター

GPT-4o、GPT-4、Claudeなどの大規模言語モデルのトークン数を即座に計算します。

...
GPT-4o トークン
GPT-4o, GPT-4o-mini
...
GPT-4 トークン
GPT-4, GPT-4-turbo, GPT-3.5-turbo
...
Claude トークン
Claude 4, Claude 3.5, Claude 3(概算)
0
文字数
0
単語数

機能

マルチモデル対応

GPT-4o、GPT-4、GPT-3.5-turbo、Claudeモデルのトークン数を同時に計算。

リアルタイム計算

入力またはテキスト貼り付け時にトークン数が即座に更新されます。

正確なトークン化

公式BPEトークナイザー(tiktoken)を使用して正確なGPTトークン数を提供。

プライバシー優先

すべての処理はブラウザ内で行われます。テキストがサーバーに送信されることはありません。

よくある質問

LLMにおけるトークンとは何ですか?

トークンは言語モデルが処理するテキストの単位です。トークンは単語、単語の一部、または個々の文字になります。例えば、'hamburger'は'ham'、'bur'、'ger'の3トークンに分割されることがあります。平均して、英語では1トークンは約4文字または0.75単語です。

なぜモデルによってトークン数が異なるのですか?

異なるモデルは異なるトークナイザー(エンコーディングスキーム)を使用します。GPT-4oは20万トークンの語彙を持つo200k_baseを使用し、GPT-4とGPT-3.5は10万トークンのcl100k_baseを使用します。語彙が大きいほど、一般的な単語が単一トークンになりやすくなります。

Claudeのトークン数はどの程度正確ですか?

ここに表示されるClaudeのトークン数はcl100k_baseトークナイザーに基づく概算値です。Claudeは独自のトークナイザーを使用していますが、カウントは一般的に実際の値に非常に近いです。

トークン数を使ってプロンプトを最適化するにはどうすればよいですか?

トークン数を知ることで、モデルのコンテキスト制限内に収める(GPT-4oの128K、Claude 3.5の200Kなど)、APIコストの見積もり、不要なテキストの削除によるプロンプトの最適化に役立ちます。

トークンカウンターについて

当社の無料オンライントークンカウンターは、開発者、プロンプトエンジニア、AI愛好家が主要な言語モデルのトークン数を正確に計算するのに役立ちます。OpenAI APIやAnthropicのClaude APIでアプリケーションを構築する際、トークン数の把握はコスト管理に不可欠です。

このツールは公式BPEトークナイザーアルゴリズムを使用してGPTモデルの正確なカウントを提供します。Claudeモデルには近似値を提供します。トークン数はリアルタイムで計算され、あらゆる言語のテキストに対応しています。

すべてのトークン化はJavaScriptを使用してブラウザ内で完全に行われます。テキストがサーバーに送信されることはありません。機密プロンプトや機密コンテンツのトークンカウントに安全です。登録不要。