News

KI-Agenten in Unternehmen: 41 Prozent dürfen bereits Cloud-Systeme ändern

Bitkom meldet mehr KI-Einsatz; Berichte zeigen zugleich Lücken bei Kontrolle, Zugriffsrechten und dem Schutz sensibler Daten.

KI-Agenten in Unternehmen: 41 Prozent dürfen bereits Cloud-Systeme ändern

Der Einsatz von Künstlicher Intelligenz in der deutschen Wirtschaft verzeichnet einen deutlichen Zuwachs. Laut Erhebungen des Branchenverbands Bitkom nutzen inzwischen 57 Prozent der deutschen Unternehmen mit mindestens 20 Beschäftigten KI-Technologien, nachdem der Anteil im Vorjahr noch bei 36 Prozent lag.

Mit der zunehmenden Autonomie von KI-Agenten steigen jedoch auch die Risiken für die IT-Sicherheit und die Compliance. Der Verband mahnt an, dass automatisierte Agenten zwingend eine eigene technische Identität anstelle geteilter Benutzerkonten benötigen, um Aktivitäten lückenlos nachvollziehbar zu machen und Zugriffsrechte im Bedarfsfall unabhängig entziehen zu können.

Trennung von Lese- und Schreibrechten gefordert

Nach Auffassung von Bitkom dürfen KI-Agenten ausschließlich mit den Berechtigungen ausgestattet werden, die für ihre jeweilige Aufgabe zwingend erforderlich sind. Insbesondere eine strikte funktionale Trennung zwischen lesenden und handelnden Befugnissen sei notwendig.

So solle ein Agent beispielsweise Rechnungsdaten auswerten dürfen, ohne gleichzeitig die Berechtigung für Zahlungsausführungen zu besitzen. Hochgradig kritische Schritte wie die Freigabe von Zahlungen, Vertragsänderungen oder das Löschen umfangreicher Datenbestände müssten weiterhin in menschlicher Hand verbleiben.

Zudem reichen reine Protokollsammlungen nach Einschätzung des Verbands nicht aus; Systeme müssten aktive Warnsignale liefern, um verdächtige Aktivitäten rechtzeitig aufzuzeigen.

Das US-amerikanische Normungsinstitut NIST befasst sich ebenfalls mit dem Identitäts- und Zugriffsmanagement autonomer Systeme. Neben eindeutigen Identitäten, Authentifizierung und Autorisierung gelte insbesondere das Kapern von Agenten über indirekte Prompt-Einspeisungen als akutes Gefahrenszenario.

Wie NTT DATA in Zusammenarbeit mit Microsoft hervorhebt, existieren derzeit vor allem zwei Identitätsmodelle: das Marionetten-Modell, bei dem der Agent die Identität und Rechte seines menschlichen Erstellers erbt, und das sogenannte Geist-Modell, bei dem das System eine eigenständige Identität mit eng abgesteckten Befugnissen erhält. Letzteres ermögliche eine deutlich bessere Überprüfbarkeit.

Risiken durch Schatten-KI und persönliche Entwickler-Logins

Dass die organisatorische Absicherung oft nicht mit dem Tempo der Implementierung schrittgehalten hat, verdeutlicht der aktuelle Cloud-Sicherheitsbericht von Palo Alto Networks. Für die sechste Ausgabe der Studie wurden weltweit 2.800 Sicherheits- und IT-Entscheidungsträger befragt, darunter 200 Teilnehmende aus Deutschland.

Demnach setzen hierzulande bereits 41 Prozent der Unternehmen autonome oder teilautonome Agenten ein, um Änderungen an ihrer Cloud-Infrastruktur vorzunehmen – der höchste Wert unter den zehn untersuchten Ländern.

Gleichzeitig gaben weltweit 40 Prozent der Befragten und 46 Prozent im Finanzsektor an, die Aktionen von KI-Agenten nicht lückenlos nachvollziehen zu können. Bei 53 Prozent der Ingenieure erfolgen agentische Aktionen über persönliche Entwickler-Logins.

Vierzig Prozent der Unternehmen beobachteten bereits, dass regulierte Daten in unkontrollierte KI-Umgebungen kopiert wurden, während lediglich 9 Prozent Schatten-KI in Cloud-Umgebungen automatisiert aufspüren können. Zudem scheitert laut der Erhebung bei 37 Prozent der deutschen Unternehmen die Beseitigung von Sicherheitslücken vor der Einführung an fehlenden Zuständigkeiten.

Datenmaskierung und Isolation im Unternehmenskontext

Um diesen Gefahren in Unternehmensanwendungen zu begegnen, betonte Haufe X360 am 20. November 2026, dass KI keinen uneingeschränkten Zugriff auf Unternehmensressourcen wie ERP-Systeme erhalten dürfe. Stattdessen gelte ein restriktives Freigabeprinzip.

Ein reiner Assistenz-Agent arbeite ausschließlich lesend, während automatisierende Komponenten, die Daten in Systemfelder zurückschreiben, isoliert betrachtet werden müssten. Für automatisierte Schreibzugriffe sei eine feldbasierte Datenmaskierung sensibler Informationen vor der Übertragung an das Sprachmodell erforderlich, sodass Originalwerte im Basissystem verbleiben.

Haufe X360 verweist in diesem Zusammenhang auf die Vorgaben der Datenschutz-Grundverordnung bei personenbezogenen Daten sowie den risikobasierten Ansatz des europäischen KI-Gesetzes. Unternehmen wird geraten, mit eng umrissenen Aufgaben zu starten, Systeme an realen Geschäftsfällen zu testen und verbindliche menschliche Prüfschritte für kritische Änderungen zu etablieren.

Brancheninitiativen zu offenen Standards

Auf der Technologiekonferenz Ignite startete Microsoft am 17. November 2026 gemeinsam mit über 40 Partnern – darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars – die KI-Transparenz-Initiative. Ziel ist die Definition anbieterübergreifender Standards.

Der Konzern betonte, dass autonome Agenten mit weitreichendem Zugriff das Risikoprofil privilegierter Insider aufweisen, jedoch in Maschinengeschwindigkeit agieren. Mit neuen Sicherheitsdiensten sollen lokale Agententypen erfasst, mit eigenen Identitäten versehen und nach 60 Tagen Inaktivität automatisch deaktiviert werden.

Dass Governance künftig direkt in die Softwarearchitektur integriert sein muss, unterstreichen auch Analysehäuser und Technologieberatungen. IBM Consulting betont, dass unkoordinierte Agenten zu Reibungsverlusten und hohen Kosten führen; im Jahr 2025 gingen 21 Prozent der Rendite von KI-Investitionen durch Reibungen im IT- und Geschäftsumfeld verloren.

Das Beratungsunternehmen Slalom Germany empfiehlt Unternehmen daher die Einrichtung eines zentralen KI-Büros. Diese Instanz solle verbindliche Architektur- und Plattformstandards vorgeben sowie erlaubte Werkzeuge definieren, um unkontrollierte Schatten-KI einzudämmen und Innovationen geordnet zu skalieren.

War dieser Artikel hilfreich?

Die Inhalte auf AktienCheck.de dienen ausschließlich der Information und stellen keine individuelle Anlageberatung oder Aufforderung zum Kauf oder Verkauf von Wertpapieren dar. Wertpapiergeschäfte sind mit Risiken bis hin zum vollständigen Verlust des eingesetzten Kapitals verbunden.