KÜNSTLICHE INTELLIGENZ AUS DER SICHT DES AUFSICHTSRATS

Ist KI ein strategisches Thema für Unternehmen? Wie viele Lösungen werden in der Organisation bereits eingesetzt und wofür? Haben wir das richtige Fachwissen und die richtige Kultur? Haben wir die Grenzen und ethischen Grundsätze für seine Verwendung definiert? Welches Governance-Modell gibt es derzeit, um zu verhindern, dass es diskriminierend oder intransparent ist?

Dies sind nur einige der Fragen, die wir uns im Aufsichtsrat zum Thema Künstliche Intelligenz (KI) stellen müssen. Und das nicht, weil KI – oder CHatGPT – aktuell sind, sondern weil es absolut strategische Technologien sind, auf die wir nicht verzichten können, wenn wir den Unternehmenserfolg mittelfristig sichern wollen.

Die Vorteile sind zahlreich, aber die Risiken sind es gleichermaßen. Deshalb müssen wir präventiv ein Governance-Modell definieren, das den verantwortungsvollen Einsatz von KI sicherstellt, ohne zu sehr einzuschränken.

KI ist eine der leistungsstärksten Technologien, die Menschen in letzter Zeit geschaffen haben, und in der Unternehmenswelt wird sie zu einem Schlüsselelement, um Geschäftsmöglichkeiten zu schaffen, Kunden zufrieden zu stellen und die Produktivität zu steigern. Die Vorteile sind außergewöhnlich.

Allein im Jahr 2022 wurden mehr als 300 Milliarden US-Dollar in KI investiert. 9 von 10 Unternehmen arbeiten daran, KI in ihr Geschäftsmodell zu integrieren, und in Spanien gibt es bereits mehr als 40 % der Unternehmen, die den Algorithmus mehr oder weniger ausgefeilt in ihren Prozessen einsetzen.

Die Einführung von ChatGPT soll diesen Prozess beschleunigen. Es wird schnell angewendet, sowohl als Support-Tool (zum Übersetzen oder Zusammenfassen sehr langer Texte, zum Schreiben von E-Mails, zum Überprüfen von Vorschriften usw.) als auch zur Wertschöpfung in der Organisation. Als Beispiel: Stradivarius hat kürzlich eine 100 % digitale Kampagne gestartet (sowohl die Modelle als auch die Artikel wurden digital erstellt) und die Suchmaschine Finder.com erstellte mit ChatGPT ein Anlageportfolio, das profitabler war als der Durchschnitt der großen britischen Fonds. Ebenso gibt es Unternehmen, die ChatGPT verwenden, um Code zu vervollständigen und Programme (zum Beispiel in Python) zu erstellen, um Prozesse zu optimieren.

Kurz gesagt: Wir stehen vor einer neuen Ära der künstlichen Intelligenz, in der wir nur die Spitze des Eisbergs sehen, was diese Technologie für unsere Unternehmen tun kann.

Eine enorme Chance, die jedoch nicht weniger Risiken mit sich bringt. Daher ist es an der Zeit, vom Aufsichtsrat aus die Grundlagen festzulegen, die eine verantwortungsvolle und vertrauenswürdige Nutzung gewährleisten.

Einerseits soll sichergestellt werden, dass ihre Einbindung in das Unternehmen nicht beschleunigt, sondern an der Unternehmensstrategie ausgerichtet wird, mit den richtigen Talenten und für klar definierte Anwendungsfälle.

Andererseits müssen die Risiken angemessen reduziert werden. Risiken, die nicht nur geschäftliche Risiken darstellen, indem relevante Entscheidungen für das Unternehmen an einen Algorithmus delegiert werden, der mit der Zeit an Präzision und Stabilität verlieren kann, sondern auch zusätzliche Risiken, die sich aus der Natur der KI ergeben. Schließlich handelt es sich um eine Technologie, die mit historischen Daten trainiert wird, so dass sie entweder Vorurteile (Geschlecht, Religion, Rasse usw.) enthalten oder nicht sehr transparent oder erklärbar sein kann (insbesondere in anspruchsvolleren Deep-Learning-Modellen wie neuronalen Netzen oder X-G-Boost). .

KI-inhärente Herausforderungen, die gelöst werden können, aber wenn sie nicht proaktiv angegangen werden, könnten zu Geschäftsentscheidungen – in Bezug auf unsere Kunden oder Mitarbeiter – führen, die entweder diskriminierend sind oder andere ihrer Grundrechte verletzen (z. B. Privatsphäre, Zugangsrecht zu einem Dienst, Wahlfreiheit usw.), die zu einem schwerwiegenden Ruf- oder Regulierungsschaden führen könnten, der vermieden werden muss.

Diese Risiken können in erheblichen wirtschaftlichen Sanktionen aus dem umfassenden Rechtsrahmen zum Schutz der Grundrechte der Person einhergehen, insbesondere im Hinblick auf die Privatsphäre und Vertraulichkeit der Daten im Rahmen der DSGVO.

Zu dem rechtlichen Anwendungsbereich kommt in wenigen Monaten die erste Norm hinzu, die Künstliche Intelligenz in Europa regelt und die mit einem erheblichen Sanktionspaket bei Nichteinhaltung einhergeht.

Und welche Rolle spielt der Aufsichtsrat in Bezug auf Künstliche Intelligenz?

Die Führungs- und Kontrollebene spielt eine Schlüsselrolle bei der Integration von KI im Unternehmen, sowohl aus strategischer Sicht als auch aus Sicht der Risikoüberwachung. Als Top-Manager des Unternehmens dürfen wir dieses relevante Thema nicht außer Acht lassen.

Als Wachstumshebel müssen wir die Einführung dieser großartigen Technologie schrittweise und mit den notwendigen Rahmenbedingungen vorantreiben. Da wir uns der Risiken bewusst sind, müssen wir sie jedoch aus der Chance heraus angehen und nicht aus Angst.

Als Hauptgarant im Risikomanagement müssen wir für dessen Überwachung und die Definition des geeigneten Governance- und Kontrollmodells zum Schutz des Unternehmens verantwortlich sein. Unter anderem müssen wir für folgende wichtige Elemente sorgen:

1. eine Bestandsaufnahme der KI-Lösungen (oder traditionellerer Algorithmen), die derzeit in der Organisation verwendet werden, damit sie entsprechend ihrer Risiken kontrolliert und klassifiziert werden.
2. eine Definition der „Grundprinzipien einer guten KI-Governance“, die nicht nur die Werte, sondern auch die Ethik des Unternehmens widerspiegelt und die Grenzen seines Einsatzes sowie das zu befolgende Due-Diligence-Modell definiert.
3. ein angemessenes Regierungsmodell mit Rollen und Verantwortlichkeiten, die gemäß dem Modell der drei Verteidigungslinien zugewiesen werden. Hierbei spielt die interne Revision eine grundlegende Rolle, wie auch bei anderen technologischen Risiken wie der Cybersicherheit. Begleitet werden muss sie von einem Verantwortlichkeitsmodell entsprechend der Bedeutung dieses Risikos im Unternehmen.

Kurz gesagt: Der Aufsichtsrat sollte einem proaktiven und präventiven Ansatz folgen, um die Risiken der künstlichen Intelligenz angemessen zu reduzieren, ohne ihr großes Potenzial innerhalb des Unternehmens einzuschränken.