可以把 AI 想成是有 99.9% 正確率能夠吐出正確的下一個字的轉蛋

也就是生成100個字的文章時，內容完全正確的機率是 0.999**100 = 90%

生成1000個字的文章時，內容完全正確的機率剩下 0.999 ** 1000 = 36%

生成長度越長，內容完全正確的機率就會跟著衰減

但如果生成 1000 個字的文章時，每生成 300 個字人類就 review 一次確保內容完全正確，那麼最後的內容完全正確率就能從 36% 提升到 90%

因此幻覺是不可避免的，人類定期把關內容正確很重要