價格: $0.05490 -0.4459%
市值: $8.61B 0.4148%
成交額 (24h): 443.02M 0%
統治力: 0.4148%
Price: $0.05490 -0.4459%
市值: $8.61B 0.4148%
成交額 (24h): 443.02M 0%
統治力: 0.4148% 0.4148%
  • 價格: $0.05490 -0.4459%
  • 市值: 8.61B 0.4148%
  • 成交額 (24h): 443.02M 0%
  • 統治力: 0.4148% 0.4148%
  • 價格: $0.05490 -0.4459%
首頁 > 视频 > Transformer 架構解釋:從文本到智能

Transformer 架構解釋:從文本到智能

發布: 2026/11/22 12:00 閱讀: 0

原文作者:Pidoku

原文來源:https://www.youtube.com/embed/5fMTpe_M694

輸入問題和人工智慧回答問題之間到底發生了什麼事?影片開啟了 Transformer,即 GPT、Claude、Gemini 和大多數現代語言模型背後的架構,並遵循一個簡單的句子「貓喝牛奶。」貫穿每一步。您將了解文字如何成為標記和標記 ID、嵌入和位置編碼如何將它們轉換為向量、自註意力如何使用查詢、鍵和值、為什麼存在多頭注意力、前饋網絡、殘差連接和層標準化的作用、因果屏蔽如何讓模型預測下一個標記、訓練和推理如何工作,以及為什麼 KV 緩存對於在 GPU 上運行大型語言模型很重要。沒有黑盒子,也沒有不必要的行話:一句話、一系列圖表和幕後的數學。顯示的令牌 ID、向量和百分比僅供說明。時間戳 0:00 簡介:當你向 AI 提問時會發生什麼 1:01 變形金剛之前:RNN 和 2017 年論文 2:14 標記化:將文本轉化為標記 ID 3:27 嵌入:將單詞作為向量 4:43 位置編碼和 RoPE 5:54 注意力集中 5:54 追蹤:將單字作為向量 4:43 位置編碼和 RoPE 5:54 專注11:11 前饋網路 12:16 殘差連接與層歸一化 13:20 完整的 Transformer 模組 14:08 編碼器、解碼器以及 BERT、GPT 和 T5 15:22 因果屏蔽 16:27 Transformer 是如何訓練的 17:46 推理: 21:07 為什麼變形金剛改變了人工智慧

精選專題

  • 狗狗幣鯨魚活動
    狗狗幣鯨魚活動
    透過我們的綜合分析,了解狗狗幣鯨魚活動的最新見解。了解趨勢、模式以及這些鯨魚對狗狗幣市場的影響。隨時了解我們的專家分析,並在您的加密貨幣之旅中保持領先。
  • 狗狗幣挖礦
    狗狗幣挖礦
    狗狗幣挖礦是為狗狗幣區塊鏈添加新交易區塊的過程。礦工因其工作而獲得新的狗狗幣獎勵。本主題提供與狗狗幣挖礦相關的文章,包括如何挖礦狗狗幣、最好的挖礦硬體和軟體以及狗狗幣挖礦的獲利能力。
  • SpaceX 星艦發射
    SpaceX 星艦發射
    本主題提供與 SpaceX 星艦發射相關的文章,包括發射日期、任務詳細資訊和發射狀態。透過此資訊豐富且全面的資源,了解最新的 SpaceX 星際飛船發射情況。
  • 迷因之王:狗狗幣
    迷因之王:狗狗幣
    本主題提供與最受歡迎的迷因相關的文章,包括「迷因之王:狗狗幣」。 Memecoin 已成為加密貨幣領域的主導者。這些數位資產之所以受歡迎有許多原因。他們推動了區塊鏈最具創新性的方面。