EP18 | Wenn KI die Effizienz bis an ihre Grenzen ausreizt, fehlt diese Fähigkeit am meisten

Ursprünglicher Autor：Yoi 科技 Open 講

Originalquelle：https://www.youtube.com/embed/8SYHdSXUqxo

🎧 Wussten Sie schon? In den vergangenen Tagen hat sich im KI-Kreis einiges getan, was einen genaueren Blick wert ist: Ein neuer Benchmark namens DeepSWE hat die tatsächliche Kluft zwischen GPT-4o und Claude erstmals deutlich sichtbar gemacht; Tenstorrent hat einen KI-Chip auf den Markt gebracht, der nur ein Fünftel von Nvidia kostet; und ein Forscher namens Andrej Karpathy definiert die Kernkompetenzen der nächsten Generation von Ingenieuren neu. Oberflächlich betrachtet ist der Rhythmus des Technologiekreises wie gewohnt, aber insgeheim verändern sich gleichzeitig die Rechenleistungsarchitektur, die Bewertungsstandards und das technische Denken. Keine Sorge, ich habe Ihnen geholfen, Kopfhörer mit Geräuschunterdrückung aufzusetzen, um den wahren Wert dieser Signale herauszufiltern. In dieser Folge geht es noch um eine weitere Sache: Wenn KI Effizienz zu einem Standardmerkmal für alle macht, ist Urteilsvermögen das knappste – was im Silicon Valley derzeit das heißeste Wort ist: Geschmack. 1️⃣ Höhepunkte dieser Episode In dieser Episode wird aus vier Blickwinkeln aufgeschlüsselt, was wirklich im KI-Ökosystem passiert. Die erste Ebene ist die „Messung“: DeepSWE, ein neuer Benchmark-Test, ermöglicht es Entwicklern erstmals, die realen Erfahrungen von Entwicklern anhand von Daten zu verifizieren. Seine Fragestellungsmethode simuliert reale Arbeitssituationen. Die Aufforderungswörter sind kurz, aber die erforderlichen Lösungen sind komplex. Es testet das durchgängige Denken, nicht das Gedächtnis. GPT-4o liegt 15 Prozentpunkte hinter Claude 3 Opus und die Kosten betragen das Dreifache der Differenz. Wer sich für das falsche Modell entscheidet, verschwendet nicht nur Geld, sondern auch Zeit. Die zweite Schicht ist „Hardware“: Die Architektur von Tenstorrent untergräbt die Kernannahmen der GPU, verlagert die Planungslogik vom Chip auf den Compiler und nutzt billigen GDDR6-Speicher, um Nvidias Speichersystem mit hoher Bandbreite zu übertreffen. Die Kosten für den Betrieb von Llama 3 sind von 30 US-Dollar auf 6 US-Dollar pro Million Token gesunken, was fünfmal günstiger ist. Die dritte Ebene ist „Engineering Thinking“: die fünf Säulen des Agent Engineering, vorgeschlagen von Andrej Karpathy. Die Kernerkenntnis lautet: Hören Sie auf, Funktionen zu entwickeln, und beginnen Sie mit dem Aufbau von „Fabriken, die Ihnen beim Aufbau von Funktionen helfen“. Die vierte Schicht ist die „Situationsmaschine“: Ohne sie würde die Agentenfabrik im Leerlauf laufen. Damit wird die gleiche Aufgabe von 2,5 Stunden auf 25 Minuten komprimiert, der Token-Verbrauch halbiert und die Ausgabequalität besteht den Test direkt. Beim Durchlaufen dieser vier Ebenen ergibt sich eine umfassendere Beobachtung: Wenn die KI die Ausführungseffizienz bis an die Grenzen treibt, ist das Urteilsvermögen wirklich knapp – das Wissen, was es wert ist, getan zu werden und was nicht getan werden sollte, also der Geschmack. 2️⃣ Lassen Sie uns in dieser Episode über diese Dinge sprechen Säulen des Agenten-Engineerings]: Karpathy Das Framework zeigt Ihnen, dass die zentrale Wettbewerbsfähigkeit der nächsten Generation von Ingenieuren darin besteht, Systeme zu entwerfen, die ein effektives Arbeiten der KI ermöglichen, und nicht nur darin, KI zu verwenden 📌 [Verborgene Leistung der Kontext-Engine]: Ohne Context Engine ist die Agentenfabrik im Leerlauf; Damit wird die Aufgabenzeit von 150 Minuten auf 25 Minuten komprimiert 📌 [Die seltenste Fähigkeit im KI-Zeitalter ist Geschmack]: Wenn Effizienz zur Grundausrüstung eines jeden wird, ist die Fähigkeit zu beurteilen, „was sich lohnt, getan zu werden“ der eigentliche Graben 3️⃣ „Unmanned Army“ und KI Das humanistische Urteil der Zeit las kürzlich ein Buch mit dem Titel „Unmanned Army: AI War King Palmer“. Rage and the Rise of Anduril“. Oberflächlich betrachtet ist es die Unternehmergeschichte von Palmer Luckey: Er verkaufte Oculus VR im Alter von 21 Jahren an Facebook, wurde später wegen kontroverser politischer Haltung aus dem Silicon Valley verbannt und kehrte schließlich um und gründete Anduril, wobei er KI, Drohnen und autonome Systeme einsetzte, um das traditionelle System der Militärindustrie herauszufordern. Die Geschichte selbst ist bereits sehr angespannt. Aber noch interessanter ist, dass der Veröffentlichungsprozess dieses Buches selbst ein Mikrokosmos des ist KI-Ära – vom Schreiben über das Korrekturlesen bis zum Schriftsatz nutzt der gesamte Prozess KI in großem Umfang. Dieser Vorfall erinnert uns nicht nur daran, dass „KI sehr praktisch ist“, sondern dass Dinge, die in der Vergangenheit viel Arbeitskraft, Zeit und professionelle Arbeitsteilung erforderten, systematisch komprimiert werden: Wenn KI die Effizienz auf die Spitze treibt, reicht die Effizienz selbst nicht mehr aus, um die wichtigsten Fragen zu beantworten. KI kann es uns ermöglichen, ein Buch schneller zu schreiben, aber sie kann nicht für uns entscheiden, warum das Buch es wert ist, Produkte schneller herzustellen, aber sie kann für uns nicht beurteilen, ob das Produkt das Leben der Menschen tatsächlich verbessert, sondern dass das menschliche Urteilsvermögen nicht mitmacht Luckey, Anduril und der Aufstieg des militärisch-industriellen KI-Systems, dieses Buch ist lesenswert. 📣 In dieser Folge geht es um die Evaluierungsdaten von Tenstorrent bis hin zum Agenten-Engineering und den situativen Engines. Aber je mehr das passiert, desto sicherer bin ich mir einer Sache: Ob die Technologie das kann, wird immer weniger die schwierigste Frage Haben Sie genug Urteilsvermögen, um zu entscheiden, was getan werden sollte und was nicht, was nur Rauschen ist und was ein echtes Signal ist, desto mehr benötigen Sie einen guten Kopfhörer mit Geräuschunterdrückung, der Ihnen dabei hilft, die ein oder zwei nützliche Richtungen aus diesen Signalen herauszufiltern. Vergessen Sie nicht, eine Fünf-Sterne-Bewertung bei Apple Podcasts zu hinterlassen, und lassen Sie mich Ihnen weiterhin dabei helfen, die wertvollsten Branchentrends herauszufinden Jeden Montag, Mittwoch und Freitag möchten Sie über die Branchendynamik und praktische Technologietrends auf dem Laufenden bleiben: 🔍 FB / IG / Threads Bitte suchen Sie nach: Yoi Studio, @yoi__studio – Hosting bereitgestellt von SoundOn (https://www.soundon.fm/)