先講結論：
- Token 是 AI 讀文字、寫文字時的最小單位。它不是「一個字」，而是 AI 自己切出來的一小段文字。
- AI 服務的費用和一次能處理多少內容，都用 Token 計算。
- Context Window（上下文視窗） 是 AI 一次能參考的全部內容，也用 Token 計算。對話越長、塞得越多，AI 越容易「忘記」或答得不準。
先分清楚：這篇講的是 AI 的 Token
搜尋「Token 是什麼」，會看到好幾種完全不同的東西：
| 你看到的 | 意思 |
|---|---|
| AI 的 Token（本篇） | AI 處理文字的單位 |
| API Token、Access Token | 程式呼叫服務時用的「通行證」，類似密碼，不能外流 |
| JWT | 一種 Access Token 的格式，網站登入常用 |
| 銀行 Token | 網路銀行的動態密碼器或驗證工具 |
後面三種是資安和登入用的，跟 AI 計費無關。
Token 怎麼切？
AI 不是一個字一個字讀，而是先把文字切成一段一段的 Token：
- 一個常見的英文單字，可能就是 1 個 Token。
- 比較長或少見的字，會被拆成好幾個 Token。
- 標點符號、空白也算。
英文的經驗值：OpenAI 說明文件寫，英文大約 4 個字元 ≈ 1 個 Token，也大約是 ¾ 個英文單字。不同模型的切法不一樣，要精確數字得用官方的計算工具。
中文怎麼算？
中文沒有官方的換算比例，不能直接套英文「4 個字元一個 Token」。
- 不同模型、不同版本的切法差很多；網路上看到的「一個中文字約幾個 Token」，各家說法互相矛盾。
- 多個第三方的測試都指出，同樣的意思，中文常比英文用到更多 Token，所以費用可能比較高；但倍數各家說法不一，不要拿來估價。
- 要知道精確數字，就把實際文字丟進該家 AI 提供的 Token 計算工具，或看 API 回應裡的用量欄位。
為什麼 AI 用 Token 計費？
AI 的運算量跟它處理多少 Token 直接相關，所以 API 計費多半用「每百萬 Token 多少錢」。
- 輸入 Token：你送進去的內容，包括問題、貼上的文件、對話紀錄、系統設定。
- 輸出 Token：AI 寫出來的回答。
- 輸入和輸出分開計價，各家的價目表都列成兩欄。實際價格依模型而定，以各家官方價目頁為準。
用聊天介面的個人訂閱（例如 ChatGPT、Claude、Gemini）時，畫面上通常不顯示 Token 數；按 Token 計費主要出現在 API。
Context Window 是什麼？
Context Window（上下文視窗） 是 AI 產生回答時，一次能參考的全部文字，包括它正在寫的回答本身。Anthropic 的文件把它比喻成 AI 的「工作記憶」，跟 AI 當初訓練時讀過的大量資料是兩回事。
會算進 Context Window 的有：
- 系統設定、你的每一則訊息、AI 的每一則回答。
- 你上傳的文件、圖片。
- 開了工具或外掛時，工具的說明與回傳結果。
大小用 Token 表示，依模型而不同。例如 Anthropic 文件列出，部分 Claude 模型的上下文視窗可達 100 萬 Token。
AI 聊久了為什麼會「忘記」？
圖：AI 把一句話切成一塊塊 Token（每塊算 1 個，實際切法依模型不同），一次能放的量有上限，放滿了舊內容就會被擠掉。
有兩個原因：
- 裝不下了：對話一直累積，總量接近上限時，聊天介面可能會把最早的內容移出去（先進先出），AI 就真的看不到了。
- 裝得下也會變不準：Anthropic 文件指出，Token 數量越多，模型的準確度和記憶能力會下降，並稱這個現象為 context rot。所以內容不是越多越好。
實用做法：
- 換主題就開新對話，不要在同一串聊到底。
- 長文件只貼跟問題有關的段落。
- 重要的條件（例如格式、限制）在新對話開頭重新講一次。
常見問題
Token 是什麼意思？
Token 是 AI 處理文字的最小單位，可能是一個字、一部分的字或一個符號。AI 服務的費用與一次能處理的內容長度，都用 Token 計算。
一個中文字等於幾個 Token？
沒有官方的固定比例，依模型而不同，不能直接套英文「約 4 個字元一個 Token」的經驗值。要精確數字，請用該家 AI 的 Token 計算工具或看 API 回應的用量欄位。
為什麼 AI 的輸入和輸出價格不一樣？
各家 API 都把輸入 Token（你送進去的內容）和輸出 Token（AI 寫出來的回答）分開計價。實際價格依模型而定，以各家官方價目頁為準。
Context Window 是什麼？
AI 產生回答時一次能參考的全部文字，包括系統設定、對話紀錄、上傳的文件和它正在寫的回答，用 Token 計算大小。
AI 聊久了為什麼會忘記前面的內容？
對話總量接近上下文視窗上限時，較早的內容可能被移出；即使裝得下，內容越多，AI 的準確度與記憶也會下降。換主題開新對話、只貼相關段落，可以改善。
API Token 和 AI 的 Token 一樣嗎？
不一樣。API Token、Access Token 是程式呼叫服務用的通行證，類似密碼，不能外流；AI 的 Token 是文字的計算單位。
延伸閱讀
公司想把 AI 接進自己的系統、或評估 API 費用怎麼抓，可以參考我們的 AI 應用開發服務。
