Zwischen Kontrolle und Chaos: Einsatz von autonomer KI

Shownotes

Eine Reise planen lassen, personalisierte Newsletter erstellen oder eine Flut von Bewerbungen schonmal vorsortieren: KI-Agenten sollen Menschen im Beruf und im Privaten unterstützen. Ist autonome KI also das nächste große Ding im Bereich künstliche Intelligenz? Darüber sprechen wir mit Inna Vogel, sie ist AI Consultant bei Capgemini Invent und eine ehemalige Kollegin vom Fraunhofer SIT. Was ist eigentlich eine autonome KI im Gegensatz zu generativer KI? Was können die digitalen Helferlein, was (noch) nicht? Und wie riskant ist ihr Einsatz? Inna berichtet von KI-Agenten-Fails, wenn autonome Systeme übereifrig komplette Mailpostfächer oder Datenbestände löschen oder in eine Endlosschleife geraten, dadurch unendlich viele Tokens verbrauchen und horrende Kosten verursachen. Inna erklärt, worauf man beim Einsatz achten sollte, um solche Fails zu vermeiden. Außerdem sprechen wir darüber, wie die EU-KI-Verordnung den Einsatz reguliert - und welche Bereiche gar nicht von der KI-VO betroffen sind. Zum Schluss macht uns Inna Mut, denn sie sagt, dass KI zwar Jobs übernehmen wird, aber es werden auch neue Jobs entstehen - und sie verrät, wo. Und auf absehbare Zeit wird der "human in the loop" nicht verzichtbar sein.

Shownotes: Paper "Agents of Chaos": https://arxiv.org/abs/2602.20021