Inference

从 Prompt 到输出：一条文本在大模型里到底走了哪些路

我们每天都在往 ChatGPT、Claude 这类模型里打字、看它一个字一个字地吐出来。但中间这条链路其实很具体：你的 prompt 不是”被模型读懂”，而是被切成数字、变成向量、在几十层网络里反复加权汇总，最后变成一张”下一个词的概率表”，再被采样、拼回去、循环。 这篇就把这条链路从头到尾拆开。前置的注意力机制（Q/K/V）可以先看这篇...