Was 30 KI-Agenten über die Zukunft der Autonomie verraten

KI-Agenten surfen durchs Netz, schreiben Code und steuern Workflows – und das fast ohne menschliche Aufsicht. Aber wer behält dabei die Kontrolle? Der 2025 AI Agent Index (aiagentindex.mit.edu) hat 30 führende KI-Agenten anhand von 1.350 Datenpunkten untersucht und zeigt bedenkliche Muster auf: Obwohl 13 Systeme ein hohes Maß an Autonomie erreichen, bleiben Sicherheitspraktiken inkonsistent und intransparent. Fast alle Agenten bauen auf nur drei Modell-Familien auf, was ein Klumpenrisiko schafft. Und einige Plattformen delegieren Verantwortung für Sicherheit lieber an die Nutzer*innen.

Diese Session stellt die wichtigsten Erkenntnisse der Studie vor und diskutiert deren mögliche Implikationen. Wir schauen uns an, warum die Lücke zwischen akademischer Forschung und tatsächlich eingesetzten Systemen so wichtig ist, wie Verantwortlichkeit im Agenten-Ökosystem zerstreut wird – und was das für Nutzer*innen, Entwickler*innen und politische Entscheidungsträger*innen bedeutet. Wer kommt, geht mit konkreten Einblicken in den aktuellen Stand autonomer KI-Systeme – und offenen Fragen darüber, wer eigentlich in Zukunft Kontrolle übernehmen soll.

Dieser Programmpunkt wird durch die Stiftung Mercator unterstützt. / This programme session is supported by Stiftung Mercator.