Vertrauen in KI wird belohnt

Ein Schlüsselelement dieses Wandels sind KI-Agenten. Sie transformieren die Art und Weise, wie Unternehmen digitale Systeme entwickeln, und stellen traditionelle Anwendungen infrage: Anstelle von Apps könnten in Zukunft autonome KI-Agenten dominieren, die komplette Aufgaben für Nutzende übernehmen, prophezeit die Accenture-Studie Technology Vision 2025. Dieser Paradigmenwechsel fordert Unternehmen heraus, digitale Ökosysteme sowohl für Menschen als auch für KI-Agenten zu gestalten. Denn Tobias Regenfuß, Technology Lead DACH bei Accenture, ist überzeugt: „Die Nutzung von KI-Agenten wird für Unternehmen alternativlos, wenn sie ihre Unternehmensprozesse konkurrenzfähig weiterentwickeln wollen.“

Für deutsche Unternehmen liegt diese Entwicklung zwar noch in fernerer Zukunft als im internationalen Durchschnitt: Dreißig von hundert befragten Entscheider:innen in Deutschland erwarten den Einsatz von KI-Assistenten in den nächsten drei Jahren. Über alle Befragten hinweg liegt dieser Wert bei 40 Prozent. Fest steht aber schon jetzt: Die Nutzung solcher autonomen Systeme erfordert das Vertrauen der Anwendenden. Um dieses zu schaffen, müssen Unternehmen verlässliche Überwachungsmechanismen für die Technologie, praktisches Training für Mitarbeitende sowie klare Steuerungspläne etablieren. Nur so können Risiken minimiert und Potenziale vollständig genutzt werden.

Besonders das KI-Training ist entscheidend: Mitarbeitende werden den Systemen eher vertrauen, wenn diese keine Blackbox bleiben, sondern ihre Entscheidungen aufgrund erklärbarer Prozesse treffen. KI-affinen Unternehmen empfehlen die Studienautor:innen, eigene neue digitale Ökosysteme zu definieren und damit Chancen für eine bessere Wertschöpfung zu nutzen. Pragmatiker:innen sollen sich über für sie passende Angebote informieren und intern mit KI-Agenten erste Erfahrungen sammeln. Wer lieber noch abwartet, der solle seine Unternehmensdatenbanken pflegen und sich auf den Austausch mit KI-Agenten vorbereiten. Regenfuß: „Unternehmen, die hier nicht investieren, lassen erhebliches Potenzial ungenutzt.“

Accenture sieht in der umfassenden Digitalisierung von Unternehmensprozessen und der Vernetzung interner Datenpools die Basis für einen digitalen Kern von Unternehmen. Dieser Kern erlaubt nicht nur eine umfassendere Datenanalyse als bisher, sondern auch die bessere Steuerung und Planung der gesamten Organisation. Neue Geschäftsmodelle, eine veränderte Einbindung von Partnern und Kunden oder neue Produkte werden darüber leichter möglich.

Doch wie steht es dabei um die rechtlichen und regulatorischen Datenschutzanforderungen an die Unternehmen? Ein höheres Maß an Vernetzung und mehr einbezogene Datenquellen erhöhen auch das Risko von Datenlecks. Nach Einschätzung des Accenture-Experten ist das eine erhebliche Herausforderung für Organisationen. „Datensouveränität und Compliance müssen von Anfang an als Design-Prinzip in die technischen Lösungen integriert werden“, erklärt Regenfuß. „Besonders die Nutzung von Public Cloud und die Einhaltung des EU AI Act sind zentrale Aspekte. Unternehmen müssen sicherstellen, dass ihre Datenflüsse kontrollierbar bleiben und Unternehmensdaten klar von Public-Domain-Daten getrennt sind.“ Dass dieses Vorhaben bisweilen zur Gretchenfrage werden kann, mache es Unternehmen nicht einfacher. „Unternehmen sollten für sich klären, ob ihnen die vertraglichen Zusicherungen der Provider genügen oder ob sie weiterführende Lösungen benötigen, um maximale Sicherheit zu gewährleisten?“

Künstliche Intelligenz mit Persönlichkeit heißt der Trend, der Marken ermöglichen soll, die Werte des Unternehmens auch in der Kommunikation zwischen KI und Kund:innen zu leben. Dazu müssen Marken mit KI-Expert:innen zusammenarbeiten und entsprechende Trainingsdaten definieren. KI-Assistenten mit Charakter befolgen klare Regeln, kennen Grenzen und verfügen über das nötige Wissen und den passenden Wortschatz einer Marke. Auf diese Weise zeigen Unternehmen auch dann Gesicht gegenüber ihrer Kundschaft, wenn gar kein Servicemitarbeitender involviert ist.

Während große Marken also auf individualisierte KI-Chatbots vertrauen werden, muss der Einsatz von KI-Helfern von der Stange für kleinere Unternehmen indes kein Nachteil sein. „Kleine und mittlere Unternehmen können von standardisierten Systemen profitieren, sei es zum Beispiel für Terminbuchungen oder automatisierte Anfragen“, sagt Tobias Regenfuß . Wo KI Arbeitsabläufe beschleunige, sei ihr Einsatz legitim. „Entscheidend ist, dass nicht nur Unternehmen, sondern auch Mitarbeitende KI aktiv nutzen“, rät der Experte. „Je häufiger KI in den Alltag integriert wird, desto selbstverständlicher wird der Umgang damit – insbesondere durch den Einsatz natürlicher Sprache als Schnittstelle zur Technologie.“

Der Erfolg hängt jedoch maßgeblich wieder vom Kundenvertrauen ab. Global erachten 77 Prozent der Führungskräfte die aktive Vertrauensbildung in KI-gesteuerte Kommunikation als entscheidend. In Deutschland liegt dieser Wert mit 70 Prozent etwas niedriger.

Mitarbeitende könnten einen Roboter demnach schon in naher Zukunft bitten, ihnen kurz einen Schraubendreher zu reichen. Ohne gesonderte Programmierung wird der Roboter die Aufgabe verstehen, selbstständig den benötigten Gegenstand erkennen und die Handlung ausführen. Large-Language- und Foundation-Models schlagen die Brücke zwischen menschlicher Sprache und Steuerung des Roboters. 72 Prozent der deutschen Führungskräfte denken, dass die Kommunikation in natürlicher Sprache zu mehr Vertrauen und besserer Zusammenarbeit zwischen Mensch und Maschine führen wird.

Insbesondere dort, wo sich Menschen und Roboter begegnen, muss das Vertrauen in die maschinellen Kollegen hoch sein. Die Accenture-Expert:innen raten deshalb zu größtmöglicher Transparenz bei der Einführung und beim Betrieb intelligenter Roboter: Wie entscheidet eine Maschine und welche Grenzen kennt sie? Antworten auf diese und weitere Fragen sorgen für mehr Vertrauen. Zudem sollten Roboter nur assistieren und keine Mitarbeitenden ersetzen. So kombiniert sich menschliche Kompetenz mit maschineller Stärke und Geschwindigkeit.