EP18 | AI が効率を限界まで押し上げるとき、最も欠けているのはこの能力です

原作者：Yoi 科技 Open 講

オリジナルソース：https://www.youtube.com/embed/8SYHdSXUqxo

🎧 知っていましたか？ここ数日間、AI 界隈では、詳しく見てみる価値のあることがいくつか起こりました。DeepSWE と呼ばれる新しいベンチマークにより、GPT-4o と Claude の間の本当のギャップが初めて明確に明らかになりました。 Tenstorrent は、Nvidia のわずか 5 分の 1 のコストで AI チップを発売しました。そしてアンドレイ・カルパシーという名前の研究者は、次世代のエンジニアの中核となる能力を再定義しています。表面上、テクノロジー界のリズムはいつもと変わりませんが、密かに、コンピューティングパワーのアーキテクチャ、評価基準、エンジニアリングの考え方がすべて同時に変化しています。心配しないでください。これらの信号の真の値を除去するために、ノイズ キャンセリング ヘッドフォンを装着するようお手伝いしました。このエピソードでは、もう 1 つのことについても語っています。AI が効率性をすべての人の標準機能にするとき、最も不足しているのは判断力です。これは現在シリコンバレーで最も注目されている言葉、「味覚」です。 1️⃣ このエピソードのハイライト このエピソードでは、AI エコシステムで実際に何が起こっているのかを 4 つの角度から分析します。最初のレイヤーは「測定」です。新しいベンチマーク テストである DeepSWE を使用すると、開発者の実際の経験を初めてデータによって検証できます。その質問設定方法は実際の作業状況をシミュレートします。プロンプトの言葉は短いですが、必要な解決策は複雑です。メモリではなく、エンドツーエンドの推論をテストします。 GPT-4o は Claude 3 Opus に 15% ポイントの差があり、コストは 3 倍の差があります。間違ったモデルを選択すると、お金だけでなく時間も無駄になります。 2 番目の層は「ハードウェア」です。Tenstorrent のアーキテクチャは、GPU の中核となる前提を覆し、スケジューリング ロジックをチップからコンパイラに移し、安価な GDDR6 メモリを使用して Nvidia の高帯域幅メモリ システムを上回る性能を発揮します。 Llama 3 の実行コストは、100 万トークンあたり 30 米ドルから 6 米ドルに下がり、5 倍安くなりました。 3 番目のレベルは「エンジニアリング思考」です。これは、Andrej Karpathy によって提案されたエージェント エンジニアリングの 5 つの柱です。核となる洞察は、関数の構築をやめて、「関数の構築を支援するファクトリー」の構築を開始することです。 4 番目の層は「状況エンジン」です。これがないと、エージェント ファクトリはアイドル状態で動作します。これにより、同じタスクが 2.5 時間から 25 分に圧縮され、トークンの使用量が半分に減り、出力品質が直接テストに合格します。これら 4 つの層を実行すると、さらに大きな観察が得られます。AI が実行効率を限界まで押し上げるとき、本当に不足しているのは判断力です。つまり、何をする価値があり、何をすべきではないかを知ること、つまり「味覚」です。 2️⃣ このエピソードではこれらのことについて話しましょう📌 [DeepSWE ベンチマーク テスト]: 開発者の実際の経験を真に反映した最初の AI 評価、GPT-4o と Claude 3 Opus の差は 15 パーセント ポイントにも達しました📌 [Tenstorrent Challenges Nvidia]: Jim Keller は、GPU の中核となる前提条件をすべて捨てて AI チップのコストを 5 分の 1 に削減しました📌 [エージェント エンジニアリングの 5 つの柱]: Karpathy このフレームワークは、次世代エンジニアの核となる競争力は、AI を使用するだけでなく、AI が効果的に機能するシステムを設計することであることを示しています 📌 [コンテキスト エンジンの隠れた力]: コンテキスト エンジンがなければ、エージェント ファクトリーはアイドル状態になります。これにより、タスク時間は 150 分から 25 分に圧縮されます 📌 【AI 時代に最も不足している能力は味覚】: 効率がすべての人の基本装備になるとき、「何をする価値があるか」を判断する能力が本当の堀 3️⃣ 「無人軍隊」と AI 時代の人間主義的判断力は 最近、「無人軍隊: AI 戦争王パーマー」という本を読みました。 Rage and the Rise of Anduril」。表面的には、これはパーマー・ラッキーの起業家物語です。彼は 21 歳で Oculus VR を Facebook に売却し、その後政治的立場が物議を醸したためにシリコンバレーから追放されましたが、最終的には向きを変えて Anduril を設立し、AI、ドローン、自律システムを使用して伝統的な軍需産業システムに挑戦しました。物語自体はすでに非常に緊張しています。しかし、さらに興味深いのは、この本の出版プロセス自体が小宇宙であるということです。 AI時代の到来――執筆、校正、校閲、植字までのプロセス全体でAIが多用されており、AI戦争や無人軍隊についてもAIが知識の生産に活用していることを示唆しているのは、これまでは多大な労力と時間と専門分業を必要としていたものが体系的に圧縮されつつあるということだ。 AI によって、私たちは本をより速く書くことができますが、その本がなぜ書く価値があるのかを判断することはできません。AI によって企業は製品をより速く作ることができますが、その製品が実際に人々の生活を改善するかどうかを判断することはできません。シリコンバレーの多くの人が今話題にしている「センス」という言葉は、まさにこれを指します。パーマー・ラッキー、アンドゥリル、AI 軍産システムの隆盛に興味がある人にとって、この本は読む価値があります。このエピソードでは、DeepSWE の評価データ、Tenstorrent のチップ アーキテクチャ、エージェント エンジニアリングの考え方や状況エンジンに至るまで、本当に驚くべきことが起こります。しかし、これが起こるほど、私は確信を深めます。難しい質問は、何をすべきか、何をすべきではないか、何が単なるノイズなのか、何が本当の信号なのかを判断するのに十分な判断力があるかどうかです。情報量が増えるほど、注意を払う価値のあるものを取り除くのに役立つ優れたノイズキャンセリングヘッドフォンが必要になります。もし今日のエピソードがこれらの信号から 1 つまたは 2 つの有用な方向性を見つけるのに役立つのであれば、Apple Podcasts に 5 つ星のレビューを残すことを忘れずに、「Yoi Technology Open Talk」を購読してフォローしてください。毎週月曜日、水曜日、金曜日に最も価値のある業界のトレンドを整理するのに役立ちます! Yoi のソーシャル プラットフォームのフォローを歓迎します: 🔍 FB / IG / スレッド 検索してください: Yoi Studio、@yoi__studio -- SoundOn が提供するホスティング (https://www.soundon.fm/)