什麼叫預測文字？
AI 怎麼把回答寫出來？
「預測文字」就是根據前面的內容，推估接下來可以怎麼寫。先用回朋友邀約的例子來看一次。
預測一個，接上去，再預測下一個
下方保留完整回覆，也能展開逐輪說明。
- 1看目前內容
- 2預測下一塊
- 3接上再來
每一輪都重新預測，把選出的字塊接在最後，直到回覆完成。
朋友約我週六吃飯，但我這週要加班，想改約下週。幫我回一句。
這週要加班，下週再約好嗎？
用要求與已寫內容，預測下一個。
字塊稱為 token，不一定是一個中文字。這裡的候選、機率與選取結果都是編寫的教學示意，機率不是答案正確率。動畫已放慢，實際運算更複雜。
不播放，看每一輪怎麼接
每輪都做同一件事：參考目前內容 → 算下一個 token 的機率 → 選一個接上去 → 重複。
- 已寫「尚未開始」這次選到 這（示意機率 48%）
- 已寫「這」這次選到 週（示意機率 65%）
- 已寫「這週」這次選到 要（示意機率 53%）
- 已寫「這週要」這次選到 加（示意機率 35%）
- 已寫「這週要加」這次選到 班（示意機率 76%）
- 已寫「這週要加班」這次選到 ，下（示意機率 58%）
- 已寫「這週要加班，下」這次選到 週（示意機率 72%）
- 已寫「這週要加班，下週」這次選到 再（示意機率 48%）
- 已寫「這週要加班，下週再」這次選到 約（示意機率 75%）
- 已寫「這週要加班，下週再約」這次選到 好（示意機率 56%）
- 已寫「這週要加班，下週再約好」這次選到 嗎（示意機率 79%）
- 已寫「這週要加班，下週再約好嗎」這次選到 ？（示意機率 82%）
- 最後選到結束符號，完成「這週要加班，下週再約好嗎？」。
每輪都會連同原本的要求一起計算。第 4 輪刻意示範選到 35% 的「加」，而不是 41% 的「忙」；實際選取會依生成設定，並非一律取最高值。
字塊邊界用 OpenAI 的 o200k_base 編碼核對，例如「，下」在此是一個 token。這只是其中一種編碼，不代表所有模型都這樣切分。
真正接寫的單位，叫做 token
Token 是 AI 處理文字時使用的小單位，不一定剛好是一個字。
ChatGPT、Claude 這類語言模型會根據前面的內容，預測接下來的 token。接出一個，就連同已寫的內容，繼續往下寫。
同一句話，token 的邊界不等於字的邊界
這週要加班，下週再約好嗎？
每一格是一個 token。「，下」的逗號和「下」一起接上。
每一步會算出各個候選 token 的可能性，再依生成設定選出一個。不一定每次都取最高值，所以相同要求可能產生不同回覆。
同一個要求，也能有不同寫法
模型在訓練時，從大量資料學到文字與知識的規律；產生回答時，再依目前的內容接寫。因此，同一個邀約也可能回成「這週沒辦法，下週再約好嗎？」。
寫法可以不同，但仍要保留你的意思：這週要加班、想改約下週。讀完覺得太客氣或太生硬，也可以請它再調整。
這裡解釋的是語言模型如何產生文字，不是所有 AI 都用同一種方式。