KI-Agenten und Tooling

KI-Agenten gehen über einfache Frage-Antwort-Systeme hinaus: Sie können Werkzeuge nutzen, Entscheidungen treffen und mehrstufige Aufgaben autonom bearbeiten. Tool Calling ermöglicht es LLMs, Funktionen aufzurufen – von Datenbankabfragen über API-Calls bis hin zu Berechnungen. Die Herausforderung liegt in der zuverlässigen Orchestrierung und Absicherung.

Was sind KI-Agenten?

Ein KI-Agent ist ein System, das auf Basis einer Aufgabe eigenständig plant, welche Schritte notwendig sind, und diese dann ausführt. Im Gegensatz zu einem einfachen Chat kann ein Agent:

Externe APIs aufrufen (z.B. Wetterdaten, Datenbanken, CRM-Systeme)
Berechnungen durchführen, statt sie zu „halluzinieren"
Zwischenergebnisse auswerten und den nächsten Schritt anpassen
Ergebnisse validieren und bei Fehlern einen alternativen Weg einschlagen

Typische Architekturmuster sind ReAct (Reason + Act), Plan-and-Execute und Multi-Agent-Systeme, bei denen spezialisierte Agenten zusammenarbeiten.

Tool Calling in der Praxis

Moderne LLMs unterstützen Function Calling nativ. Du definierst verfügbare Tools als JSON Schema, und das Modell entscheidet, wann es welches Tool aufruft. Der Ablauf:

            # Tool-Definition für OpenAI Function Calling
            tools = [
                {
                    "type": "function",
                    "function": {
                        "name": "search_database",
                        "description": "Sucht in der Produktdatenbank",
                        "parameters": {
                            "type": "object",
                            "properties": {
                                "query": {"type": "string"},
                                "limit": {"type": "integer", "default": 5}
                            },
                            "required": ["query"]
                        }
                    }
                }
            ]
             
            # LLM entscheidet eigenständig, ob ein Tool nötig ist
            response = client.chat.completions.create(
                model="gpt-4",
                messages=messages,
                tools=tools,
                tool_choice="auto"
            )
          

Guardrails und Sicherheit

Agenten brauchen Grenzen. Ohne Guardrails kann ein Agent unkontrolliert Aktionen ausführen, zu viele API-Calls machen oder sensible Daten exponieren. Wichtige Schutzmaßnahmen:

Budget-Limits: Maximale Anzahl an Tool-Calls und Token pro Anfrage
Whitelist-Ansatz: Nur explizit freigegebene Tools stehen zur Verfügung
Input-Validierung: Parameter werden vor der Ausführung geprüft
Deterministische Fallbacks: Bei Unsicherheit wird auf eine regelbasierte Logik zurückgefallen
Menschliche Freigabe: Kritische Aktionen (z.B. Löschungen) erfordern eine Bestätigung

Passende Weiterbildung

Agile/r Software-Developer/in

Agenten-Systeme werden iterativ entwickelt. Agile Methoden helfen, schnell zu validieren und schrittweise zu erweitern.

Kurs ansehen *

Spezialist/in für Natural Language Processing

NLP-Grundlagen sind essenziell, um zu verstehen, wie Agenten Sprache verarbeiten und Entscheidungen treffen.

Kurs ansehen *

Web Application Developer/in

Agenten brauchen Interfaces. Web-Entwicklung bildet die Brücke zwischen Agent-Backend und Nutzeroberfläche.

Kurs ansehen *

KI-Agenten und Tooling

Was sind KI-Agenten?

Tool Calling in der Praxis

Guardrails und Sicherheit

Passende Weiterbildung

Agile/r Software-Developer/in

Spezialist/in für Natural Language Processing

Web Application Developer/in

Weitere Themen