Preis: $0.05490 -0.4459%
Marktwert: $8.61B 0.4148%
Umsatz (24h): 443.02M 0%
Dominanz: 0.4148%
Price: $0.05490 -0.4459%
Marktwert: $8.61B 0.4148%
Umsatz (24h): 443.02M 0%
Dominanz: 0.4148% 0.4148%
  • Preis: $0.05490 -0.4459%
  • Marktwert: 8.61B 0.4148%
  • Umsatz (24h): 443.02M 0%
  • Dominanz: 0.4148% 0.4148%
  • Preis: $0.05490 -0.4459%
Titelseite > 视频 > Erklärte Transformatorarchitektur: Vom Text zur Intelligenz

Erklärte Transformatorarchitektur: Vom Text zur Intelligenz

freigeben: 2026/11/22 12:00 lesen: 0

Ursprünglicher Autor:Pidoku

Originalquelle:https://www.youtube.com/embed/5fMTpe_M694

Was passiert eigentlich zwischen dem Eingeben einer Frage und der Beantwortung durch eine KI? Dieses Video eröffnet den Transformer, die Architektur hinter GPT, Claude, Gemini und den meisten modernen Sprachmodellen, und folgt Schritt für Schritt einem einfachen Satz: „Die Katze trinkt Milch.“ Sie werden sehen, wie Text zu Token und Token-IDs wird, wie Einbettungen und Positionscodierung sie in Vektoren umwandeln, wie Selbstaufmerksamkeit Abfragen, Schlüssel und Werte verwendet, warum es Multi-Head-Aufmerksamkeit gibt, was das Feed-Forward-Netzwerk, Restverbindungen und Layer-Normalisierung bewirken, wie kausale Maskierung ein Modell das nächste Token vorhersagen lässt, wie Training und Inferenz funktionieren und warum der KV-Cache für die Ausführung großer Sprachmodelle auf GPUs wichtig ist. Keine Black Boxes und kein unnötiger Jargon: ein Satz, eine Reihe von Diagrammen und die Mathematik hinter den Kulissen. Die angezeigten Token-IDs, Vektoren und Prozentsätze dienen der Veranschaulichung. Zeitstempel 0:00 Einführung: Was passiert, wenn Sie einer KI eine Frage stellen 1:01 Vor Transformers: RNNs und das Papier von 2017 2:14 Tokenisierung: Text in Token-IDs 3:27 Einbettungen: Wörter als Vektoren 4:43 Positionskodierung und RoPE 5:54 Selbstaufmerksamkeit: Abfrage, Schlüssel und Wert 8:52 Skalierte Skalarproduktaufmerksamkeit, Schritt für Schritt 9:35 Multi-Head-Aufmerksamkeit 11:11 Das Feed-Forward-Netzwerk 12:16 Restverbindungen und Layer-Normalisierung 13:20 Der komplette Transformer-Block 14:08 Encoder, Decoder und BERT, GPT und T5 15:22 Kausale Maskierung 16:27 Wie ein Transformer trainiert wird 17:46 Inferenz: Wie Text generiert wird 18:53 Der KV-Cache 20:15 Die komplette Reise 21:07 Warum Transformers die KI verändert haben

Ausgewählte Themen

  • Dogecoin-Wal-Aktivität
    Dogecoin-Wal-Aktivität
    Erhalten Sie mit unserer umfassenden Analyse die neuesten Erkenntnisse über die Aktivitäten der Dogecoin-Wale. Entdecken Sie Trends, Muster und die Auswirkungen dieser Wale auf den Dogecoin-Markt. Bleiben Sie mit unserer Expertenanalyse auf dem Laufenden und behalten Sie auf Ihrem Weg zur Kryptowährung die Nase vorn.
  • Dogecoin-Mining
    Dogecoin-Mining
    Beim Dogecoin-Mining werden der Dogecoin-Blockchain neue Transaktionsblöcke hinzugefügt. Miner werden für ihre Arbeit mit neuen Dogecoins belohnt. Dieses Thema enthält Artikel zum Dogecoin-Mining, einschließlich der Anleitung zum Mining von Dogecoin, der besten Mining-Hardware und -Software und der Rentabilität des Dogecoin-Minings.
  • Start des Spacex-Raumschiffs
    Start des Spacex-Raumschiffs
    Dieses Thema enthält Artikel zu SpaceX-Raumschiffstarts, einschließlich Startdaten, Missionsdetails und Startstatus. Bleiben Sie mit dieser informativen und umfassenden Ressource über die neuesten Starts von SpaceX Starship auf dem Laufenden.
  • König der Meme: Dogecoin
    König der Meme: Dogecoin
    Dieses Thema enthält Artikel zu den beliebtesten Memes, darunter „The King of Memes: Dogecoin“. Memecoin hat sich zu einem dominanten Akteur im Kryptoraum entwickelt. Diese digitalen Assets sind aus verschiedenen Gründen beliebt. Sie treiben die innovativsten Aspekte der Blockchain voran.