Erstellen Sie ein Reasoning-Modell von Grund auf 4: Inferenzskalierung 1 (Temperatur, Top-p, Selbstkonsistenz)

Ursprünglicher Autor：Sebastian Raschka

Originalquelle：https://www.youtube.com/embed/t5y-kS9nNxU

Nachdem die Anwendungsfälle für die Inferenzzeitskalierung motiviert wurden, geht dieses Video zunächst durch Temperaturskalierung, Top-P-Filterung und multinomiales Sampling, um mit einem LLM vielfältige Antworten zu generieren. Mithilfe dieser Techniken implementieren wir dann Selbstkonsistenz, um die Genauigkeit der LLM-Antworten zu verbessern. - Reasoning-Playlist: https://www.youtube.com/watch?v=Kh9mqTzjuEQ&list=PLfrHAQCRxtUs - Reasoning-Buch: https://amzn.to/4aAKiFY - Reasoning-GitHub-Repo: https://github.com/rasbt/reasoning-from-scratch - LLMs from Scratch-Buch: https://amzn.to/4fqvn0D - LLMs from Scratch Repo: https://github.com/rasbt/LLMs-from-scratch – LLMs from Scratch Playlist: https://www.youtube.com/watch?v=yAcWnfsZhzo&list=PLTKMiZHVd_2IIEsoJrWACkIxLRdfMlw11&index=1 00:00 Einführung und Zusammenfassung 00:31 Trainingszeit- und Inferenzzeitskalierung 07:52 Was wir implementieren werden 11:47 Notebook-Einrichtung und Modellladen 17:43 Aufbau einer flexiblen Textgenerierungsfunktion 24:40 Gedankenkettenaufforderung 28:26 Abtastung und Ausgabevielfalt 33:43 Next-Token-Logits und gierige Dekodierung 38:20 Temperaturskalierung Schritt für Schritt 42:46 Softmax- und Token-Wahrscheinlichkeiten 47:42 Multinomiale Abtastung 54:51 Temperatur-Sampling zur Textgenerierung hinzufügen 59:31 Top-P-Filterung Schritt für Schritt 1:10:23 Top-P-Filterung zur Textgenerierung hinzufügen 1:13:43 Sampling und LLM-Wasserzeichen 1:16:01 Selbstkonsistenz und Mehrheitsabstimmung 1:20:36 Selbstkonsistenz implementieren 1:29:02 MATH-500-Ergebnisse 1:35:01 Genauigkeit und Rechenkompromisse 1:36:50 Nächste Schritte und Selbstverfeinerung