知っているマシン — プロンプトからトークンへの旅

原作者：Sync Vision

オリジナルソース：https://www.youtube.com/embed/SOsbTykQuXg

女性が電卓を購入します。ある男性がサービスに電話し、他の人に計算を依頼します。同じ質問、同じ答え — その下にある 2 つのまったく異なるマシン。このエピソードでは、ナレーター、アナリスト、実務家、学者の 4 人の声が、現在ほぼ誰もが使用しているものの、実際に内部を調べた人はほとんどいないもの、つまり AI モデルを分解します。これは、単純な人間の例えから始まり、単一の予測されたトークンで終わる、ラップトップからクラウドまで、AI が実際にどのように実行されるかという完全な降下です。その過程で、ローカル AI とクラウド AI の実際の違い、その下で静かに実行されるアプリとエンジン (llama.cpp、Ollama、LM Studio、vLLM など)、GGUF ファイルに実際に含まれる内容、トレーニングと推論の違い、プロンプトを一度に 1 トークンずつ回答に変える 6 ステップのループについて説明します。専門用語が説明されていないことはありません。スキップされたステップはありません。機械を一つずつ開けていくだけです。モデルは知っています。エンジンは動きます。ハードウェアが計算します。このビデオは教育目的のみを目的としています。これは、法的アドバイスや専門的な法律相談の代替を目的としたものではありません。