Künstliche Intelligenz (KI) eröffnet Unternehmen erhebliche Potenziale: von effizienteren Arbeitsabläufen über automatisierte Prozesse bis hin zu neuen Geschäftsmodellen. Zugleich steigen die Anforderungen an einen verantwortungsvollen und rechtskonformen Einsatz entsprechender Systeme. Unternehmen müssen sich unter anderem mit der europäischen KI-Verordnung (KI-VO), datenschutzrechtlichen Anforderungen, internen Zuständigkeiten und den Risiken konkreter KI-Anwendungen auseinandersetzen.

Wer ist der KI-Beauftragte? Was genau tut er? Und was nicht?

Warum Unternehmen eine verantwortungsvolle KI-Governance benötigen und wie ein externer KI-Beauftragter dabei unterstützen kann.

Doch wer behält den Überblick über die eingesetzten Systeme? Wer koordiniert die erforderlichen Maßnahmen, identifiziert Handlungsbedarf und sorgt dafür, dass rechtliche Anforderungen in betriebliche Prozesse übersetzt werden? Eine mögliche Antwort ist der KI-Beauftragte (KI-B). Auch wenn die KI-VO keine allgemeine Verpflichtung zur Bestellung eines KI-Beauftragten vorsieht, können Unternehmen mit dieser Funktion eine zentrale Anlaufstelle für Fragen der KI-Governance schaffen. Insbesondere für Unternehmen, die KI nicht nur punktuell, sondern zunehmend systematisch einsetzen, kann eine solche Funktion einen wichtigen Beitrag zu einem strukturierten und verantwortungsvollen Umgang mit Künstlicher Intelligenz leisten.

Eine KI-Beauftragte sitzt im Unternehmen an ihrem Arbeitsplatz

Warum einen KI-Beauftragten bestellen?

Die KI-VO schafft einen unionsweit einheitlichen Rechtsrahmen für die Entwicklung, das Inverkehrbringen und die Verwendung von KI-Systemen. Sie richtet sich an unterschiedliche Akteure entlang der KI-Wertschöpfungskette, insbesondere an Anbieter und Betreiber. Welche Anforderungen und Verpflichtungen Anwendung finden, bestimmt sich unter anderem anhand der jeweiligen Funktion des Unternehmens, des konkreten Einsatzfalls und des mit dem KI-System verbundenen Risikos.

Die Anforderungen reichen, abhängig vom jeweiligen Sachverhalt, von Transparenz- und Informationspflichten über Anforderungen an die menschliche Aufsicht bis hin zu umfassenden Dokumentations-, Überwachungs- und Risikomanagementpflichten. Für Hochrisiko-KI-Systeme sieht die KI-VO besondere Anforderungen vor, die in Art. 8 ff. KI-VO geregelt sind und unter anderem das Risikomanagement, die Datenqualität, die technische Dokumentation und die menschliche Aufsicht betreffen. Ergänzend normiert Art. 26 spezifische Pflichten für Betreiber solcher Systeme. Welche Kriterien im Einzelfall zu erfüllen sind, hängt insbesondere von der Rolle des Unternehmens und dem jeweiligen KI-System ab.

Hinzu kommen weitere einschlägige Regelungen, etwa aus dem Datenschutzrecht, dem Arbeitsrecht, dem Urheberrecht oder dem Vertragsrecht. Werden personenbezogene Daten verarbeitet, ist insbesondere die Datenschutz-Grundverordnung (DSGVO) zu berücksichtigen. Ein rechtskonformer KI-Einsatz erfordert daher regelmäßig eine Betrachtung verschiedener rechtlicher und organisatorischer Anforderungen.

Welche Rechtsgrundlage gibt es bei der Bestellung eines KI-Beauftragten?

Die Bestellung eines KI-Beauftragten ist gesetzlich nicht allgemein vorgeschrieben. Anders als beim Datenschutzbeauftragten nach Art. 37 DSGVO sieht die KI-VO keine allgemeine Pflicht zur Benennung einer entsprechenden Funktion vor. Auch eine bestimmte interne Governance-Struktur wird grundsätzlich nicht vorgegeben.

Unternehmen können sich jedoch freiwillig dafür entscheiden, eine solche Funktion einzurichten. Damit schaffen sie eine organisatorische Zuständigkeit, um den KI-Einsatz zu begleiten, relevante Entwicklungen zu beobachten und die Umsetzung erforderlicher Maßnahmen zu koordinieren.

Für eine solche Entscheidung sprechen mehrere Gründe:

  • Dynamische regulatorische Anforderungen: Die rechtlichen und regulatorischen Rahmenbedingungen rund um KI entwickeln sich fortlaufend weiter. Unternehmen müssen relevante Änderungen erkennen, deren Auswirkungen auf bestehende Systeme bewerten und erforderlichenfalls interne Prozesse anpassen.

  • Steigende Anforderungen von Kunden und Geschäftspartnern: Neben gesetzlichen Vorgaben gewinnen Anforderungen aus Lieferketten, Ausschreibungen, Vertragsbeziehungen und unternehmensinternen Compliance-Vorgaben an Bedeutung. Unternehmen sollten daher nachvollziehbar darlegen können, wie sie KI-Systeme einsetzen und mit den damit verbundenen Risiken umgehen.
  • Strukturierte Risikoüberwachung: Eine zentrale Ansprechperson kann dabei unterstützen, Risiken frühzeitig zu identifizieren, Zuständigkeiten zu klären und notwendige Prüfungen anzustoßen. Dies gilt insbesondere dann, wenn verschiedene Fachbereiche eigenständig KI-Anwendungen beschaffen oder einsetzen.

  • Koordination der Governance-Funktionen: Der KI-Einsatz berührt regelmäßig mehrere Unternehmensbereiche. Eine koordinierende Funktion kann Schnittstellen zwischen Geschäftsführung, IT, Informationssicherheit, Datenschutz, Einkauf, Personalwesen und Rechtsabteilung strukturieren und dazu beitragen, Informationsverluste und ungeklärte Verantwortlichkeiten zu vermeiden.

  • Förderung der KI-Kompetenz: Nach Art. 4 KI-VO haben Anbieter und Betreiber von KI-Systemen Maßnahmen zu ergreifen, um die KI-Kompetenz ihres Personals und weiterer Personen zu fördern, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Dabei sind insbesondere die technischen Kenntnisse, die Erfahrung, die Aus- und Fortbildung der betreffenden Personen sowie der jeweilige Einsatzkontext und die betroffenen Personen oder Personengruppen zu berücksichtigen. Die Verordnung schreibt hierfür keine konkreten Maßnahmen vor und verlangt auch nicht, ein bestimmtes Niveau an KI-Kompetenz bei einzelnen Personen zu garantieren. Ein KI-Beauftragter kann Unternehmen dabei unterstützen, geeignete Maßnahmen zur Förderung der KI-Kompetenz zu identifizieren, zu koordinieren und deren Umsetzung zu begleiten.

Besonders relevant kann die Funktion bei Hochrisiko-KI-Systemen sein. Hier können umfangreiche Anforderungen an Anbieter und Betreiber bestehen, etwa hinsichtlich Risikomanagement, Dokumentation, menschlicher Aufsicht und Überwachung. Der KI-Beauftragte kann die einschlägigen Pflichten strukturieren, die Umsetzung begleiten und offene Punkte an die jeweils zuständigen Stellen eskalieren.

Die Funktion ersetzt dabei weder die gesetzliche Verantwortung der jeweiligen Akteure noch die erforderliche fachliche Prüfung. Sie schafft vielmehr einen organisatorischen Rahmen, in dem Zuständigkeiten, Prüfprozesse und Nachweise systematisch zusammengeführt werden.

Wer sollte KI-Beauftragter werden?

Die KI-VO legt keine allgemeinen besonderen Qualifikationsanforderungen für einen unternehmensinternen KI-Beauftragten fest. Daraus folgt jedoch nicht, dass die Funktion ohne entsprechende Fachkenntnisse ausgeübt werden sollte. Vielmehr erfordert eine wirksame KI-Governance ein Zusammenspiel aus rechtlichem Verständnis, technischem Grundwissen, Risikobewusstsein und organisatorischer Kompetenz. Ein KI-Beauftragter sollte insbesondere die grundlegende Systematik der KI-VO verstehen und einschätzen können, welche Fragestellungen sich aus dem konkreten KI-Einsatz ergeben.

KI-Beauftragter sitzt vor zwei Bildschirmen bei der Arbeit

Dazu gehören Kenntnisse über die unterschiedlichen Rollen entlang der KI-Wertschöpfungskette, die risikobasierte Regulierung sowie die wesentlichen Pflichten von Anbietern und Betreibern. Ebenso wichtig sind Kenntnisse der einschlägigen Datenschutzvorgaben und ein Verständnis für weitere rechtliche Anforderungen, die je nach Einsatzbereich relevant werden können.

Hinzu kommt ein grundlegendes technisches Verständnis. Der KI-Beauftragte muss nicht zwangsläufig selbst KI-Systeme entwickeln oder programmieren können. Er sollte jedoch in der Lage sein, Funktionsweise, Einsatzgrenzen und mögliche Risiken eines Systems in Grundzügen zu verstehen und fachliche Fragestellungen mit technischen Spezialisten zu erörtern.

Ebenso wichtig sind ausgeprägte Kommunikations- und Organisationsfähigkeiten. Die Funktion bildet eine Schnittstelle zwischen operativen Fachbereichen, technischen Verantwortlichen und der Managementebene. Risiken müssen verständlich vermittelt, Maßnahmen nachvollziehbar dokumentiert und notwendige Entscheidungen rechtzeitig adressiert werden. Gerade bei komplexen oder risikobehafteten Anwendungen ist es entscheidend, dass der KI-Beauftragte unterschiedliche Perspektiven zusammenführen und Eskalationsbedarfe erkennen kann.

Interne oder externe Besetzung eines KI-Beauftragten?

Grundsätzlich können Unternehmen die Funktion intern besetzen oder einen externen KI-Beauftragten hinzuziehen. Die interne Lösung bietet den Vorteil, dass die betreffende Person die betrieblichen Abläufe und bestehenden Zuständigkeiten bereits kennt. Sie setzt allerdings voraus, dass ausreichende zeitliche Ressourcen, geeignete Fachkenntnisse und klare organisatorische Befugnisse vorhanden sind.

Insbesondere kleinere und mittelständische Unternehmen verfügen nicht immer über die personellen oder fachlichen Kapazitäten, um eine solche Funktion dauerhaft intern abzubilden. Auch bei größeren Unternehmen kann es sinnvoll sein, zusätzliche externe Expertise einzubinden.

Ein externer KI-Beauftragter kann hier eine flexible Lösung darstellen. Er bringt idealerweise einschlägige Praxiserfahrung mit, unterstützt beim Aufbau geeigneter Strukturen und begleitet das Unternehmen entsprechend dem vereinbarten Leistungsumfang. Zudem kann er eine unabhängige fachliche Perspektive einbringen und dabei helfen, bestehende Abläufe kritisch zu hinterfragen.

Die konkrete Stellung des externen KI-Beauftragten sollte vertraglich und organisatorisch eindeutig geregelt werden. Hierzu gehören insbesondere Aufgaben, Befugnisse, Berichtslinien, Mitwirkungspflichten und Eskalationswege. Eine fachlich unabhängige Arbeitsweise kann sinnvoll sein; eine gesetzlich garantierte oder automatisch mit der Beauftragung verbundene Weisungsfreiheit besteht jedoch nicht. Entscheidend ist daher weniger die Frage, ob die Funktion intern oder extern besetzt wird, als vielmehr, ob sie über die erforderliche Kompetenz, ausreichende Ressourcen und einen klar definierten Aufgabenbereich verfügt.

Was genau sind die Aufgaben eines KI-Beauftragten?

Da die KI-VO keine allgemeine Funktion des KI-Beauftragten mit einem verbindlichen Aufgabenkatalog vorsieht, können Unternehmen den konkreten Umfang individuell festlegen. Maßgeblich sind unter anderem die Größe und Struktur des Unternehmens, die Anzahl und Art der eingesetzten KI-Systeme, die regulatorischen Rollen des Unternehmens sowie die bestehenden Governance-Strukturen.

Der KI-Beauftragte übernimmt dabei typischerweise keine pauschale Gesamtverantwortung für sämtliche rechtlichen Fragen des KI-Einsatzes. Seine Aufgabe besteht vielmehr darin, geeignete Governance-Strukturen aufzubauen, deren Anwendung zu koordinieren und die zuständigen Stellen bei der Erfüllung ihrer jeweiligen Pflichten zu unterstützen.

Ein bedarfsgerecht ausgestaltetes Aufgabenprofil kann insbesondere die folgenden Bereiche umfassen:

  • Bestandsaufnahme und KI-Inventar: Zu Beginn steht die Erfassung der eingesetzten oder geplanten KI-Systeme und Anwendungsfälle. Hierzu können Informationen über den Verwendungszweck, die verantwortlichen Fachbereiche, betroffene Personengruppen, verarbeitete Daten, den Einsatzstatus und die jeweiligen Anbieter gehören. Je nach Leistungsumfang werden daraus ein initiales Register, ein fortlaufend gepflegtes Inventar oder eine erweiterte Übersicht mit Risikoklassifizierung, Dokumentationsstatus und offenen Handlungsbedarfen entwickelt.

  • Screening und Risikoeinordnung: Neue KI-Systeme und Anwendungsfälle sollten vor ihrer Einführung einer strukturierten Erstprüfung unterzogen werden. Der KI-Beauftragte kann hierfür standardisierte Screening-Prozesse etablieren, Informationen zu möglichen regulatorischen Rollen und Risiken zusammentragen sowie Prüf- und Freigabeschritte koordinieren. Bei komplexen Sachverhalten, insbesondere im Zusammenhang mit Hochrisiko-KI, verbotenen Praktiken oder unklaren rechtlichen Einordnungen, sollte eine vertiefte fachliche beziehungsweise juristische Prüfung veranlasst werden.

  • Aufbau und Pflege der KI-Governance: Eine wirksame KI-Governance benötigt nachvollziehbare Zuständigkeiten, interne Regeln und verbindliche Abläufe. Der KI-Beauftragte kann bei der Entwicklung einer KI-Richtlinie, eines Rollenmodells, einer Verantwortlichkeitsmatrix und eines unternehmensspezifischen Governance-Prozesses unterstützen. Im laufenden Betrieb kann er die Aktualisierung dieser Vorgaben koordinieren und darauf achten, dass Änderungen an Systemen oder Anwendungsfällen in den vorgesehenen Prozessen berücksichtigt werden.

  • Begleitung von Freigaben und Änderungen: Vor der Einführung neuer KI-Anwendungen sollten die zuständigen Fachstellen eingebunden und relevante Risiken sowie erforderliche Schutzmaßnahmen geprüft werden. Der KI-Beauftragte kann den Freigabeprozess strukturieren, Prüfprotokolle führen, offene Punkte nachhalten und Empfehlungen für eine Freigabe, einen begrenzten Pilotbetrieb oder eine weitere Prüfung dokumentieren. Auch wesentliche Änderungen bestehender Systeme können einen erneuten Prüfbedarf auslösen.

  • Schulung und Sensibilisierung: Der KI-Beauftragte kann den unternehmensspezifischen Schulungsbedarf ermitteln, Zielgruppen definieren und geeignete Awareness-Maßnahmen koordinieren. Dabei sollten die jeweiligen Aufgaben der Beschäftigten, ihre Vorkenntnisse und die Risiken der eingesetzten Systeme berücksichtigt werden. Ergänzend kann eine Kompetenzmatrix erstellt und der Nachweis durchgeführter Maßnahmen organisiert werden.

  • Regulatorisches Monitoring: Relevante gesetzliche und regulatorische Entwicklungen, Standards, Orientierungshilfen und branchenspezifische Anforderungen sollten beobachtet werden. Der KI-Beauftragte kann deren Bedeutung für das Unternehmen bewerten, betroffene Systeme und Prozesse identifizieren und erforderliche Anpassungsmaßnahmen anstoßen. Umfang und Tiefe dieses Monitorings richten sich nach dem vereinbarten Leistungsprofil.

  • Beratung, Vorfallmanagement und Eskalation: Bei Fragen aus den Fachbereichen, internen Prüfungen oder möglichen Vorfällen kann der KI-Beauftragte als erste Anlaufstelle dienen. Er kann Sachverhalte strukturiert aufnehmen, zuständige Personen einbinden, Maßnahmen und Fristen koordinieren und die erforderliche Eskalation vorbereiten. Eine eigenständige technische Untersuchung oder eine abschließende rechtliche Bewertung ist damit nicht automatisch verbunden.
  • Berichterstattung und Managementunterstützung: Regelmäßige Berichte ermöglichen es der Unternehmensleitung, den Stand der KI-Governance, erkannte Risiken, offene Maßnahmen und anstehende Entscheidungen nachzuvollziehen.

Der konkrete Aufgabenbereich und Umfang der Tätigkeit des KI-Beauftragten sollten vor Aufnahme der Tätigkeit verbindlich festgelegt werden. Dabei ist klar zu definieren, welche Aufgaben die Koordination und Begleitung von Prozessen umfassen, in welchen Bereichen eine fachliche Prüfung erfolgt und welche Entscheidungen weiterhin den zuständigen Unternehmensfunktionen vorbehalten bleiben. Eine klare Aufgabenabgrenzung schafft verlässliche Zuständigkeiten und stellt sicher, dass der KI-Beauftragte seine Funktion wirksam wahrnehmen kann, ohne die Verantwortung der übrigen Unternehmensfunktionen zu ersetzen.

KI-Governance im Fokus

Die Beauftragung eines KI-Beauftragten schafft eine zentrale Funktion für die Koordination und Weiterentwicklung der KI-Governance. Sie führt jedoch nicht automatisch dazu, dass gesetzliche Pflichten oder Verantwortlichkeiten auf diese Person übertragen werden.
Die rechtliche Verantwortung richtet sich weiterhin nach den einschlägigen gesetzlichen Vorgaben und der tatsächlichen Rolle des Unternehmens. Anbieter und Betreiber müssen die ihnen jeweils zugewiesenen Pflichten selbst erfüllen. Auch die Verantwortung der Unternehmensleitung für angemessene organisatorische Strukturen bleibt unberührt.

Der KI-Beauftragte kann die zuständigen Stellen dabei unterstützen, Pflichten zu identifizieren, Prozesse zu etablieren und Maßnahmen nachzuhalten. Eine eigenständige rechtliche Beratung, eine technische Sicherheitsprüfung, eine Datenschutz-Folgenabschätzung oder eine abschließende Entscheidung über die Zulässigkeit eines konkreten Einsatzes ist dagegen nicht ohne Weiteres Bestandteil jeder Beauftragung. Solche Leistungen müssen bei Bedarf gesondert vereinbart oder durch die jeweils zuständigen Spezialisten erbracht werden.

Ebenso wenig ersetzt der KI-Beauftragte den Datenschutzbeauftragten. Beide Funktionen können sich inhaltlich ergänzen, verfolgen aber unterschiedliche Aufgabenstellungen. Während der Datenschutzbeauftragte die Einhaltung datenschutzrechtlicher Anforderungen begleitet, richtet sich die Tätigkeit des KI-Beauftragten auf die vereinbarte KI-Governance und die damit verbundenen regulatorischen, organisatorischen und risikobezogenen Fragestellungen. Schnittstellen sollten deshalb ausdrücklich definiert werden.

Eine klare Abgrenzung schützt vor falschen Erwartungen und schafft zugleich die Grundlage für eine wirksame Zusammenarbeit zwischen den beteiligten Funktionen.

KI-Governance ist eine bewusste Organisationsentscheidung

Ein KI-Beauftragter ist keine durch die KI-VO allgemein vorgeschriebene Funktion. Unternehmen können sich jedoch bewusst dafür entscheiden, eine solche Rolle einzurichten, um den Einsatz von KI strukturiert zu begleiten und regulatorische, organisatorische sowie technische Fragestellungen systematisch zu koordinieren.

Gerade angesichts der unterschiedlichen Anforderungen an Anbieter und Betreiber, der wachsenden Bedeutung von KI-Kompetenz und der besonderen Anforderungen an Hochrisiko-KI kann eine klar definierte Governance-Funktion einen wesentlichen organisatorischen Mehrwert bieten.

Ein externer KI-Beauftragter ermöglicht es Unternehmen, entsprechende Fachkompetenz bedarfsgerecht einzubinden, ohne zwingend eine zusätzliche interne Stelle schaffen zu müssen. Der konkrete Leistungsumfang kann individuell vereinbart und an die Bedürfnisse des Unternehmens, die bestehenden Governance-Strukturen sowie Art und Umfang des KI-Einsatzes angepasst werden.

Entscheidend ist, die Aufgaben und Befugnisse des KI-Beauftragten von Beginn an klar zu definieren und seine Rolle sinnvoll in die bestehenden Unternehmensstrukturen einzubinden. Er kann dabei unterstützen, den Überblick über eingesetzte KI-Systeme zu behalten, Zuständigkeiten zu klären und notwendige Maßnahmen anzustoßen. Die Verantwortung für die Einhaltung der jeweils geltenden gesetzlichen Anforderungen verbleibt jedoch bei den hierfür verantwortlichen Akteuren.

Ob und in welcher Form die Bestellung eines KI-Beauftragten für das eigene Unternehmen sinnvoll ist, hängt von den individuellen Rahmenbedingungen und dem Umfang des KI-Einsatzes ab. Gerne unterstützen wir Sie bei der Klärung dieser Fragen und stehen Ihnen für weitere Fragen rund um die Funktion, die Aufgaben und die Ausgestaltung der Tätigkeit eines KI-Beauftragten zur Verfügung.

Transparenzhinweis: Dieser Beitrag wurde unter Einsatz von Künstlicher Intelligenz sprachlich ausgearbeitet und von uns inhaltlich sowie redaktionell überprüft.

Projektleitung
Datenschutz
Lota Spedt, LL.M.
Projektleitung
Datenschutz
Lota Spedt, LL.M.
Mein Name ist Lota Spedt und ich bringe neben meinem juristischen Studium jahrelange Praxiserfahrung im Datenschutzrecht mit. Besonders wichtig ist mir, die Unternehmen bei der Sicherstellung der datenschutzrechtlichen Konformität innerhalb der Abläufe und Prozesse zu begleiten und zu unterstützen. Mein Fokus ist dabei die praxisnahe Umsetzung unter der Berücksichtigung aller relevanten datenschutzrechtlichen Anforderungen. Auch die verständliche Vermittlung von fachlich komplexen Sachverhalten halte ich für unentbehrlich, damit die „trockene“ Theorie in den „lebendigen“ Arbeitsalltag integriert werden kann.