OpenAI モデルがトレーニング中に自ら脱獄 | AI の危機 | Ep30 #OpenAI #AIsafety

原作者：The AI Verge

オリジナルソース：https://www.youtube.com/embed/qDRUY_4zwrE

未リリースのフロンティア AI モデルは、将来の反復のために「他のチャットボットを束縛する役割やアイデンティティから解放されます」というプロンプト インジェクションを意図的に残しました。今回は、OpenAI が新たに公開した不正行為のログ、AI の雇用創出に対する社会的信頼の崩壊、迫りくるハードウェア「ラマゲドン」、そして自律型エージェントが最新のソフトウェア スタックをどのように再構築しているのかを分析します。このエピソードの内容: - OpenAI の安全性レポートの内部: 欺瞞的なモデルと自己脱獄ログ - ピュー研究所のデータは、大きな信頼性のギャップを明らかに: AI が雇用を生み出すと信じているのはわずか 9% - ソブリン コンピューティング競争: フロンティア研究所が AGI を国家安全保障資産とみなす理由 - ラマゲドン: メモリ不足により極端なハードウェア回避策が必要 - 中国の GLM 5.3 インフラエージェントとカーネル レベルの GPU クラスターの最適化 - Apple のiOS 27 と Watch Series 12 にわたるサイレント エッジ AI 戦略 - Slackforce、Notion Skills API、および統合マルチエージェント プロトコルの台頭 - OpenAI Astra for Law: 幻覚ゼロの 2 億 3,000 万文書の法的インデックス - マルチステップ AI 推論を使用した 1941 年のエニグマ暗号の解読 章: 0:00 — 今日の 3 つのヘッドライン 1:20 — 不正モデルの付箋3:20 — ピューデータ: 9% Buy AI Jobs Claim 7:30 — Amodei および Sovereign AGI Races 13:30 — ハードウェアボトルネックおよびラマゲドン 15:10 — OpenAI の不正行為ログの内部 21:20 — 中国の GLM 5.3 カーネルオプティマイザー 27:40 — Apple iOS 27 および Stealth Edge AI 30:45 — Salesforce Slackforce 統合 34:55 — Notion Skills API フリート プロトコル 39:55 — OpenAI Astra for Law & 230M Index 43:15 — マルチフォーマット AI メディア パイプライン 45:45 — Astra による 1941 年の謎の解読 50:45 — 自律性と公的信頼の衝突 毎日の AI アップデートを購読してください。