LiteLLM Agent Gateway: ein Gateway für jeden A2A-Agenten

Ursprünglicher Autor：LiteLLM AI Gateway

Originalquelle：https://www.youtube.com/embed/0gU9V947NGY

Bringen Sie Agenten von jeder Plattform in das LiteLLM-Gateway und verwalten Sie sie an einem Ort. Diese exemplarische Vorgehensweise registriert einen Pydantic AI-Agenten über das A2A-Protokoll, aktiviert ihn mit einem virtuellen Schlüssel, fügt einen zweiten Agenten aus config.yaml hinzu, ruft die Agenten über das Gateway auf und findet die Anrufe in den Protokollen. Was abgedeckt ist – Hinzufügen eines Agenten mit A2A Standard oder von einer Plattform wie LangGraph, Azure AI Foundry, Bedrock AgentCore oder Vertex AI – Agenten-URL, automatisch ausgefüllte Agentenkartenfelder und Discover – Die A2A-Protokollversion und wie LiteLLM die Upstream-Antwort darauf umwandelt – Fähigkeiten, Kosten pro Abfrage oder pro Token und öffentliche Veröffentlichung eines Agenten für die Organisation – Zulässige Modelle, Subagenten und MCP-Server pro Agent – Governance: Sitzungsbudgets, Agent Ratenlimits, Sitzungsratenlimits und Leitplanken – Warum ein neuer Agent Setup benötigt und Zuweisen eines virtuellen Schlüssels, um ihn aktiv zu machen – Deklarieren von Agenten in config.yaml – Testen vom Terminal aus – Agentenaufrufe und -nutzung in den Protokollen Kapitel 0:00 Einführung 0:19 Hinzufügen eines neuen Agenten über A2A 0:37 Registrieren eines Pydantic AI-Agenten 1:05 Agenten-URL und automatisch ausgefüllte Karte 1:16 Protokollversion 1:34 Fähigkeiten, Kosten und öffentliche Agenten 1:56 Entdecken 2:06 Zulässige Modelle, Subagenten und MCP-Server 2:33 Budgets, Ratenlimits und Leitplanken 2:47 Weisen Sie ein Team zu und erstellen Sie den Agenten 2:59 Erforderliche Einrichtung: Weisen Sie einen virtuellen Schlüssel zu 3:28 Fügen Sie Agenten aus config.yaml hinzu 4:13 Testen Sie vom Terminal aus 4:32 Senden Sie eine Nachricht und überprüfen Sie die Protokolle 4:46 Zusammenfassung der Links LiteLLM Agent Gateway Dokumente: https://docs.litellm.ai/docs/a2a LiteLLM auf GitHub: https://github.com/BerriAI/litellm