从头开始构建推理模型 4：推理缩放 1（温度、Top-p、自洽）

原文作者：Sebastian Raschka

原文来源：https://www.youtube.com/embed/t5y-kS9nNxU

在激发了推理时间缩放的用例之后，该视频首先介绍了温度缩放、top-p 过滤和多项式采样，以通过法学硕士生成不同的答案。然后，使用这些技术，我们实现自我一致性，以提高 LLM 答案的准确性。 - 推理播放列表：https://www.youtube.com/watch?v=Kh9mqTzjuEQ&list=PLfrHAQCRxtUs - 推理书籍：https://amzn.to/4aAKiFY - 推理 GitHub 存储库：https://github.com/rasbt/reasoning-from-scratch - 从头开始的法学硕士书籍：https://amzn.to/4fqvn0D - 来自 Scratch 的法学硕士Scratch 存储库：https://github.com/rasbt/LLMs-from-scratch - LLMs from Scratch 播放列表：https://www.youtube.com/watch?v=yAcWnfsZhzo&list=PLTKMiZHVd_2IIEsoJrWACkIxLRdfMlw11&index=1 00:00 介绍和回顾 00:31 训练时间和推理时间缩放07:52 我们将实现什么 11:47 笔记本设置和模型加载 17:43 构建灵活的文本生成函数 24:40 思维链提示 28:26 采样和输出多样性 33:43 下一个令牌逻辑和贪婪解码 38:20 逐步温度缩放 42:46 Softmax 和令牌概率 47:42 多项式采样 54:51 添加温度采样到文本生成 59:31 逐步进行 Top-p 过滤 1:10:23 在文本生成中添加 top-p 过滤 1:13:43 采样和 LLM 水印 1:16:01 自一致性和多数投票 1:20:36 实现自一致性 1:29:02 MATH-500 结果 1:35:01 准确性和计算权衡1:36:50 下一步和自我完善