價格: $0.05520 -0.0059%
市值: $8.66B 0.4163%
成交額 (24h): 398.97M 0%
統治力: 0.4163%
Price: $0.05520 -0.0059%
市值: $8.66B 0.4163%
成交額 (24h): 398.97M 0%
統治力: 0.4163% 0.4163%
  • 價格: $0.05520 -0.0059%
  • 市值: 8.66B 0.4163%
  • 成交額 (24h): 398.97M 0%
  • 統治力: 0.4163% 0.4163%
  • 價格: $0.05520 -0.0059%
首頁 > 视频 > 人工智慧數學 02 |為什麼資訊以位元來衡量

人工智慧數學 02 |為什麼資訊以位元來衡量

發布: 2026/11/04 13:16 閱讀: 0

原文作者:Curiosity, Clearly

原文來源:https://www.youtube.com/embed/tR12UfyJvTw

AI 數學 02 為什麼一枚均勻的硬幣給出一位信息,而八張同樣可能的卡片中的一張給出三位信息?按照選擇、二元樹和對數來了解機率如何成為資訊的度量。在《AI 數學》的第 2 集中,Emma、Aoi 和 Norm 解釋了自我資訊(令人驚訝)、為什麼該單位使用底數為 2,以及為什麼對數可以讓連續步驟的資訊相加。然後,我們使用一個小型語言模型範例來區分訓練期間對觀察到的標記進行評分與生成期間選擇下一個標記。 00:00 驚喜的衡量標準 00:57 一個平衡的選擇,一位 01:59 為什麼是對數? 05:28 模型很重要 06:21 對人工智慧預測進行評分 09:21 一個結果,然後是平均值 中心定義是 I = −log2(p),以位元為單位。在這裡,驚喜是指定機率模型下的數學量,而不是情緒、重要性或真相的測量。語言模型機率只是說明性範例,而不是特定人工智慧系統的測量結果。系列:人工智慧數學 01 — 貝葉斯規則:更新信念 02 — 資訊、驚喜與位元(本集) 03 — 熵:測量不確定性(下一個) 04 — 交叉熵和預測損失 05 — 機率校準 06 — 梯度下降和學習 未來的主題和順序是暫時的。參考文獻與進一步閱讀:Claude E. Shannon,通訊數學理論 (1948):https://onlinelibrary.wiley.com/doi/pdf/10.1002/j.1538-7305.1948.tb01338.x 史丹佛大學 EE276,資訊理論敘述: https://web.stanford.edu/class/ee276/files/previous_notes/lecture_2.pdf 擁抱臉部變形金剛,困惑:https://huggingface.co/docs/transformers/perplexity 擁抱臉部變形金剛,生成策略:https://huggingface.co/docs/transteformers/ Generation_strateformers 原始和動畫。虛構的插圖主持人和合成角色聲音。如果解釋有幫助,請喜歡影片並訂閱。您會用比特來衡量什麼日常預測?在評論中告訴我們。 #InformationTheory #MathematicsForAI #Bits 系列播放清單:https://www.youtube.com/playlist?list=PLGi5Uwmf0LpY 上一集:https://youtu.be/kS9gsyHW0yk

精選專題

  • 狗狗幣鯨魚活動
    狗狗幣鯨魚活動
    透過我們的綜合分析,了解狗狗幣鯨魚活動的最新見解。了解趨勢、模式以及這些鯨魚對狗狗幣市場的影響。隨時了解我們的專家分析,並在您的加密貨幣之旅中保持領先。
  • 狗狗幣挖礦
    狗狗幣挖礦
    狗狗幣挖礦是為狗狗幣區塊鏈添加新交易區塊的過程。礦工因其工作而獲得新的狗狗幣獎勵。本主題提供與狗狗幣挖礦相關的文章,包括如何挖礦狗狗幣、最好的挖礦硬體和軟體以及狗狗幣挖礦的獲利能力。
  • SpaceX 星艦發射
    SpaceX 星艦發射
    本主題提供與 SpaceX 星艦發射相關的文章,包括發射日期、任務詳細資訊和發射狀態。透過此資訊豐富且全面的資源,了解最新的 SpaceX 星際飛船發射情況。
  • 迷因之王:狗狗幣
    迷因之王:狗狗幣
    本主題提供與最受歡迎的迷因相關的文章,包括「迷因之王:狗狗幣」。 Memecoin 已成為加密貨幣領域的主導者。這些數位資產之所以受歡迎有許多原因。他們推動了區塊鏈最具創新性的方面。