KI im Unternehmen nutzen: Sie brauchen eine Nutzer*innenrichtlinie

Dies ist der zweite Teil unserer zweiteiligen Serie über die Einführung neuer oder veränderter Künstlicher Intelligenz (KI)-Systeme und deren Nutzung im Unternehmen. Nachdem wir im ersten Teil der Serie die Anforderungen an die Implementierung und Anpassung von KI-Systemen analysiert haben, wenden wir uns nun den Anforderungen an deren Einsatz im Arbeitsalltag zu.

Im Folgenden skizzieren wir die wichtigsten Aspekte, die Nutzer*innen bei der Verwendung von KI-Systemen beachten sollten. Sie werden überrascht sein, wie kurz das ausfällt, wenn Sie, wie von uns empfohlen, eine Richtlinie für Entscheider*innen etabliert haben. Diese Entscheiderrichtlinie legt fest, wer über die Einführung, wesentliche Änderung oder Erweiterung von KI-Systemen und KI-Modellen entscheidet. Außerdem definiert sie den verbindlichen Prüfungs-, Freigabe- und Dokumentationsprozess. Diese Themen sollten daher bereits im Rahmen der Freigabe durch die Entscheider*innen geklärt sein. Die späteren Nutzer*innen sollten sich mit diesen grundlegenden Fragestellungen nicht befassen müssen.

KI ist ein Werkzeug, keine Auslagerung der Verantwortung

Immer mehr Beschäftigte nutzen KI-Systeme für Recherchen, Übersetzungen, Zusammenfassungen, Analysen oder das Verfassen von Texten. Die Möglichkeiten sind enorm, doch gleichzeitig entstehen neue Risiken und auch gesetzliche Anforderungen. KI kann Beschäftigte in vielen Bereichen unterstützen. Gleichzeitig liegen die Verantwortung, die Aufsichtspflichten und die Einhaltung gesetzlicher Anforderungen weiterhin in der Verantwortung des Unternehmens und der in dessen Auftrag handelnden Personen.

Deshalb raten wir dringend, die notwendigen Anweisungen für die Beschäftigten in einer KI-Richtlinie für Nutzer*innen zusammenzufassen. Diese umfasst zum Beispiel neben der Liste der im Unternehmen zugelassenen KI-Systeme, der zulässigen Einsatzzwecke und der Datenkategorien, die verarbeitet werden dürfen, auch KI-Systeme, deren Einsatz im Unternehmen verboten ist. Dadurch reduziert sich der Anfrage- und Prüfaufwand deutlich, weil weniger (wiederholte) Rückfragen dazu entstehen, ob ein System eingesetzt werden darf. In der Richtlinie für Nutzer*innen werden vielfältige Themen erläutert und verbindliche Vorgaben formuliert. Hierauf gehen wir im Folgenden ein.

Verbotene Anwendungsbereiche und weitere rechtliche Anforderungen

Nicht alle Einsatzmöglichkeiten von KI sind zulässig. Die KI-Verordnung verbietet bestimmte Praktiken vollständig. Diese Fragen sollten allerdings bereits im Rahmen der Einführung und Freigabe eines KI-Systems geprüft worden sein.

Nutzer*innen sollten darüber hinaus insbesondere folgende Anforderungen beachten:

besondere Anforderungen, zum Beispiel an Berufsgeheimnisträger,
Beachtung von Urheber- und Nutzungsrechten,
Prüfung von Transparenzpflichten gemäß der KI-Verordnung,
Notwendigkeit der Anpassung von Datenschutzhinweisen gemäß 13 und/oder 14 DSGVO,
Dokumentationspflichten,
welche Pflichten als Auftragsverarbeiter gegebenenfalls ergänzend zu beachten sind.

Menschliche Überwachung und Verantwortung

KI kann unterstützend wirken, aber Stand heute keine Verantwortung übernehmen. Legen Sie daher von Anfang an fest,

wer die Ergebnisse überprüft,
unter Umständen, wie eine Überprüfung zu erfolgen hat,
wann eine menschliche Überwachung vorgeschrieben ist,
und welche Dokumentationspflichten gelten.

Insbesondere bei Entscheidungen, die durch KI-Systeme getroffen werden und die Menschen betreffen, reicht es nicht aus, sich ausschließlich auf die Ergebnisse der KI zu stützen, Stichwort ist hier Art. 22 DSGVO.

KI-Kompetenz ist Pflicht und nicht nur die Kür

Ergreifen Sie gemäß Art. 4 KI-VO geeignete Maßnahmen, damit Nutzer*innen, die mit dem Betrieb von KI-Systemen befasst sind oder diese Systeme verwenden, über ein ausreichendes Maß an KI-Kompetenz verfügen.

Vermitteln Sie Beschäftigten mindestens die folgenden Inhalte:

Grundlegende Funktionsweise und mögliche Einsatzbereiche von KI-Systemen,
Chancen, Risiken und Grenzen der KI,
Erkennung und Bewertung fehlerhafter, verzerrter oder unplausibler Ergebnisse,
Datenschutz- und Informationssicherheitsanforderungen im Zusammenhang mit dem Einsatz von KI,
Zulässige Verarbeitung personenbezogener und vertraulicher Daten,
Unternehmensrichtlinien und interne Vorschriften zum Einsatz von KI-Systemen,
Anforderungen der KI-Verordnung, soweit sie für die betreffende Tätigkeit relevant sind,
Verantwortlichkeiten und Meldeverfahren im Falle von Fehlfunktionen, Auffälligkeiten oder Risiken.

Fazit

KI kann die tägliche Arbeit erheblich erleichtern. Gleichzeitig erfordert ihr Einsatz einen verantwortungsvollen Umgang. Die Beschäftigten sollten insbesondere darauf achten, nur freigegebene Systeme zu nutzen, vertrauliche Informationen zu schützen, Ergebnisse zu überprüfen, Transparenzanforderungen einzuhalten und interne Richtlinien zu beachten.

Wer KI als Hilfsmittel betrachtet und die Verantwortung für seine eigenen Entscheidungen behält, kann die Vorteile dieser Technologie sicher und produktiv nutzen. Es reicht jedoch nicht aus, KI-Systeme lediglich aus technischer Sicht bereitzustellen. Versetzen Sie Ihre Beschäftigten durch geeignete Schulungen und Sensibilisierungsmaßnahmen in die Lage, KI sicher, verantwortungsbewusst und unter Einhaltung der Vorschriften zu nutzen.

Darüber hinaus ist es ratsam, den Einsatz von KI-Systemen in einer internen KI-Richtlinie für Nutzer*innen zu regeln. Ergänzen Sie die bestehende KI-Richtlinie für Entscheider*innen durch eine Richtlinie für Nutzer*innen. Diese richtet sich an Beschäftigte, die KI-Systeme im Arbeitsalltag verwenden (lesen Sie auch unseren vorherigen Beitrag zum Thema „KI im Unternehmen einführen: Was Unternehmen vor der Freigabe prüfen sollten“).

Legen Sie in dieser Richtlinie zum Beispiel fest, welche Systeme genutzt werden dürfen, welche Daten verarbeitet werden dürfen, welche Überprüfungspflichten für KI-generierte Ergebnisse gelten und welche organisatorischen und rechtlichen Anforderungen einzuhalten sind. Nutzen Sie klare Richtlinien, um Transparenz zu schaffen, KI-Kompetenz zu fördern und den konsequenten sowie rechtskonformen Einsatz von KI innerhalb der Organisation zu unterstützen.

Benötigen Sie Unterstützung bei der Einführung von KI-Systemen, der Ausarbeitung von KI-Richtlinien oder dem Aufbau der erforderlichen KI-Kompetenzen in Ihrem Unternehmen? Zögern Sie nicht, uns zu kontaktieren.