prix: $0.05490 -0.4459%
Valeur marchande: $8.61B 0.4148%
Chiffre d’affaires (24h): 443.02M 0%
Dominance: 0.4148%
Price: $0.05490 -0.4459%
Valeur marchande: $8.61B 0.4148%
Chiffre d’affaires (24h): 443.02M 0%
Dominance: 0.4148% 0.4148%
  • prix: $0.05490 -0.4459%
  • Valeur marchande: 8.61B 0.4148%
  • Chiffre d’affaires (24h): 443.02M 0%
  • Dominance: 0.4148% 0.4148%
  • prix: $0.05490 -0.4459%
première page > 视频 > L'architecture du transformateur expliquée : du texte à l'intelligence

L'architecture du transformateur expliquée : du texte à l'intelligence

libérer: 2026/11/22 12:00 lire: 0

Auteur original:Pidoku

Source originale:https://www.youtube.com/embed/5fMTpe_M694

Que se passe-t-il réellement entre la saisie d’une question et la réponse d’une IA ? Cette vidéo ouvre le Transformer, l'architecture derrière GPT, Claude, Gemini et la plupart des modèles de langage modernes, et suit une phrase simple, "Le chat boit du lait.", à chaque étape. Vous verrez comment le texte devient des jetons et des identifiants de jeton, comment les intégrations et le codage positionnel les transforment en vecteurs, comment l'auto-attention utilise les requêtes, les clés et les valeurs, pourquoi l'attention multi-têtes existe, ce que font le réseau de rétroaction, les connexions résiduelles et la normalisation des couches, comment le masquage causal permet à un modèle de prédire le prochain jeton, comment fonctionnent la formation et l'inférence, et pourquoi le cache KV est important pour exécuter de grands modèles de langage sur les GPU. Pas de boîtes noires ni de jargon inutile : une phrase, une série de diagrammes et les calculs en coulisses. Les identifiants de jetons, les vecteurs et les pourcentages indiqués sont à titre indicatif. Horodatages 0:00 Intro : que se passe-t-il lorsque vous posez une question à une IA 1:01 Avant Transformers : les RNN et l'article de 2017 2:14 Tokenisation : texte dans les identifiants de jeton 3:27 Intégrations : mots comme vecteurs 4:43 Codage positionnel et RoPE 5:54 Auto-attention : requête, clé et valeur 8:52 Attention aux produits scalaires à l'échelle, étape par étape 9:35 Attention multi-têtes 11:11 Le réseau feed-forward 12:16 Connexions résiduelles et normalisation des couches 13:20 Le bloc Transformer complet 14:08 Encodeur, décodeur et BERT, GPT et T5 15:22 Masquage causal 16:27 Comment un transformateur est formé 17:46 Inférence : comment le texte est généré 18:53 Le cache KV 20:15 Le parcours complet 21:07 Pourquoi Transformers a changé l'IA

Sujets en vedette

  • Activité des baleines Dogecoin
    Activité des baleines Dogecoin
    Obtenez les dernières informations sur les activités des baleines Dogecoin grâce à notre analyse complète. Découvrez les tendances, les modèles et l'impact de ces baleines sur le marché Dogecoin. Restez informé grâce à notre analyse d’experts et gardez une longueur d’avance dans votre parcours de crypto-monnaie.
  • Extraction de Dogecoins
    Extraction de Dogecoins
    Le minage de Dogecoin est le processus d'ajout de nouveaux blocs de transactions à la blockchain Dogecoin. Les mineurs sont récompensés par un nouveau Dogecoin pour leur travail. Cette rubrique propose des articles liés au minage de Dogecoin, notamment sur la manière d'exploiter du Dogecoin, les meilleurs matériels et logiciels de minage et la rentabilité du minage de Dogecoin.
  • Lancement du vaisseau Spacex
    Lancement du vaisseau Spacex
    Cette rubrique fournit des articles relatifs aux lancements de SpaceX Starship, notamment les dates de lancement, les détails de la mission et l'état du lancement. Restez au courant des derniers lancements de SpaceX Starship avec cette ressource informative et complète.
  • Roi des mèmes : Dogecoin
    Roi des mèmes : Dogecoin
    Cette rubrique propose des articles liés aux mèmes les plus populaires, notamment « Le roi des mèmes : Dogecoin ». Memecoin est devenu un acteur dominant dans l’espace crypto. Ces actifs numériques sont populaires pour diverses raisons. Ils pilotent les aspects les plus innovants de la blockchain.