發布: 2026/11/04 13:16 閱讀: 0
原文作者:Curiosity, Clearly
原文來源:https://www.youtube.com/embed/tR12UfyJvTw
AI 數學 02 為什麼一枚均勻的硬幣給出一位信息,而八張同樣可能的卡片中的一張給出三位信息?按照選擇、二元樹和對數來了解機率如何成為資訊的度量。在《AI 數學》的第 2 集中,Emma、Aoi 和 Norm 解釋了自我資訊(令人驚訝)、為什麼該單位使用底數為 2,以及為什麼對數可以讓連續步驟的資訊相加。然後,我們使用一個小型語言模型範例來區分訓練期間對觀察到的標記進行評分與生成期間選擇下一個標記。 00:00 驚喜的衡量標準 00:57 一個平衡的選擇,一位 01:59 為什麼是對數? 05:28 模型很重要 06:21 對人工智慧預測進行評分 09:21 一個結果,然後是平均值 中心定義是 I = −log2(p),以位元為單位。在這裡,驚喜是指定機率模型下的數學量,而不是情緒、重要性或真相的測量。語言模型機率只是說明性範例,而不是特定人工智慧系統的測量結果。系列:人工智慧數學 01 — 貝葉斯規則:更新信念 02 — 資訊、驚喜與位元(本集) 03 — 熵:測量不確定性(下一個) 04 — 交叉熵和預測損失 05 — 機率校準 06 — 梯度下降和學習 未來的主題和順序是暫時的。參考文獻與進一步閱讀:Claude E. Shannon,通訊數學理論 (1948):https://onlinelibrary.wiley.com/doi/pdf/10.1002/j.1538-7305.1948.tb01338.x 史丹佛大學 EE276,資訊理論敘述: https://web.stanford.edu/class/ee276/files/previous_notes/lecture_2.pdf 擁抱臉部變形金剛,困惑:https://huggingface.co/docs/transformers/perplexity 擁抱臉部變形金剛,生成策略:https://huggingface.co/docs/transteformers/ Generation_strateformers 原始和動畫。虛構的插圖主持人和合成角色聲音。如果解釋有幫助,請喜歡影片並訂閱。您會用比特來衡量什麼日常預測?在評論中告訴我們。 #InformationTheory #MathematicsForAI #Bits 系列播放清單:https://www.youtube.com/playlist?list=PLGi5Uwmf0LpY 上一集:https://youtu.be/kS9gsyHW0yk
kumis patiler
2026-11-23 02:00
Ha Ms
2026-11-23 02:00
CRYPTO_BEN
2026-11-23 02:00
子敬.轮回珠宝
2026-11-23 02:00
CryptoMetric
2026-11-23 02:00
劇翻天 Drama Go
2026-11-22 16:36
CryptoMason
2026-11-22 16:22
Lý Tử Ly
2026-11-22 14:42
Pidoku
2026-11-22 14:15
選擇貨幣
US Dollar
USD
Chinese Yuan
CNY
Japanese Yen
JPY
South Korean Won
KRW
New Taiwan Dollar
TWD
Canadian Dollar
CAD
Euro
EUR
Pound Sterling
GBP
Danish Krone
DKK
Hong Kong Dollar
HKD
Australian Dollar
AUD
Brazilian Real
BRL
Swiss Franc
CHF
Chilean Peso
CLP
Czech Koruna KČ
CZK
Singapore Dollar
SGD
Indian Rupee
INR
Saudi Riyal
SAR
Vietnamese Dong
VND
Thai Baht
THB
選擇貨幣
US Dollar
USD-$
Chinese Yuan
CNY-¥
Japanese Yen
JPY-¥
South Korean Won
KRW -₩
New Taiwan Dollar
TWD-NT$
Canadian Dollar
CAD-$
Euro
EUR - €
Pound Sterling
GBP-£
Danish Krone
DKK-KR
Hong Kong Dollar
HKD- $
Australian Dollar
AUD-$
Brazilian Real
BRL -R$
Swiss Franc
CHF -FR
Chilean Peso
CLP-$
Czech Koruna KČ
CZK -KČ
Singapore Dollar
SGD-S$
Indian Rupee
INR -₹
Saudi Riyal
SAR -SAR
Vietnamese Dong
VND-₫
Thai Baht
THB -฿