AI Act im Betrieb: 6 Fragen für einen ersten Überblick

Erfassen Sie zunächst, welche KI-Werkzeuge im Betrieb tatsächlich verwendet werden. Berücksichtigen Sie dabei auch KI-Funktionen, die bereits in vorhandener Software enthalten sind. Zum Beispiel:

• Texte formulieren oder überarbeiten
• Informationen zusammenfassen oder strukturieren
• Bilder oder andere Inhalte erstellen
• Angebote, Präsentationen oder Arbeitsunterlagen vorbereiten
• Bei Aufgaben der Personalgewinnung oder im Personalbereich unterstützen
• Mit Kunden oder Interessenten kommunizieren
  

Dabei lohnt sich auch ein Blick auf Programme, die schon länger im Einsatz sind. Neue KI-Funktionen können dort hinzukommen, ohne dass dafür ein eigenständiges KI-Werkzeug eingeführt wurde.

Beispiel aus dem Betriebsalltag
Ein Installationsbetrieb verwendet einen KI-Assistenten für Textentwürfe. Die eingesetzte Bürosoftware bietet inzwischen ebenfalls KI-Funktionen. Zusätzlich wird über einen Chatbot auf der Website nachgedacht.

Für einen ersten Überblick werden alle drei Anwendungen mit ihrem jeweiligen Zweck erfasst. So wird sichtbar, wo KI im Betrieb bereits tatsächlich eingesetzt wird und welche Anwendungen genauer betrachtet werden sollten.

Der AI Act unterscheidet verschiedene Rollen von Unternehmen, unter anderem zwischen Anbietern und Betreibern von KI-Systemen. Je nach Rolle können unterschiedliche Anforderungen gelten.

Für viele kleine Gewerbe- und Handwerksbetriebe wird die Nutzung bereits vorhandener KI-Werkzeuge im Vordergrund stehen.

Anders kann die rechtliche Einordnung beispielsweise sein, wenn ein Unternehmen selbst eine KI-Anwendung anbietet oder entwickeln lässt und unter eigenem Namen anbietet oder in Betrieb nimmt. Auch Änderungen an bestehenden Systemen können je nach Fall für die rechtliche Rolle relevant sein.

Für den ersten Überblick genügt deshalb zunächst die Frage:
Nutzen wir ein bestehendes KI-System im eigenen Betrieb oder stellen wir selbst ein KI-System unter unserem Namen bereit?

Viele alltägliche KI-Anwendungen unterstützen lediglich intern bei der Vorbereitung – etwa wenn ein KI-Assistent Texte formuliert, Informationen strukturiert oder Fragen für ein Gespräch vorbereitet.Anders kann die Situation sein, wenn ein KI-System unmittelbar in einen sensiblen Geschäftsprozess eingebunden wird. Dazu können beispielsweise bestimmte Anwendungen im Personalbereich gehören. In solchen Fällen sollte vor dem Einsatz geprüft werden, welche Anforderungen gelten.

Beispiel aus dem Betriebsalltag
Ein Betriebsleiter nutzt einen KI-Assistenten, um aus eigenen Stichpunkten einen Entwurf für eine Stellenanzeige oder Fragen für ein Bewerbungsgespräch zu erstellen. Die KI unterstützt bei der Vorbereitung. Die Personalentscheidung und die Verantwortung dafür bleiben beim Betrieb.

Auch die KI-Kompetenz spielt im AI Act eine Rolle. Der AI Act verpflichtet nicht dazu, bestimmte Schulungen oder Zertifizierungen durchzuführen. 

Anbieter und Betreiber von KI-Systemen müssen jedoch Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz jener Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen arbeiten.

Der AI Act schreibt dabei kein bestimmtes individuelles Kompetenzniveau vor. Welche Maßnahmen angemessen sind, hängt unter anderem von den verwendeten KI-Systemen, den Aufgaben der Mitarbeiter, ihren Vorkenntnissen und dem Nutzungskontext ab.  Je nach Einsatz können beispielsweise betriebliche Hinweise, interne Einführungen oder Schulungsmaßnahmen geeignet sein.

Prüfen Sie beispielsweise:

• Welche Mitarbeiter nutzen KI?
• Wofür wird sie eingesetzt?
• Kennen die Mitarbeiter Möglichkeiten und Grenzen der verwendeten Werkzeuge?
• Wissen sie, wann Ergebnisse fachlich geprüft werden müssen?
• Ist klar, an wen sie sich bei Unsicherheiten wenden können?
  

Beispiel aus dem Betriebsalltag
Nutzen zwei Mitarbeiter regelmäßig einen KI-Assistenten für Textentwürfe, kann gemeinsam festgelegt werden, wofür das Werkzeug eingesetzt wird, worauf bei den Ergebnissen zu achten ist und wann eine fachliche Prüfung oder Rücksprache erforderlich ist.

Seit dem 2. August 2026 sind die Transparenzpflichten nach Artikel 50 des AI Acts grundsätzlich anzuwenden.

Je nach Art des KI-Systems, Einsatz und Rolle des Unternehmens gelten unterschiedliche Anforderungen. Transparenzpflichten können beispielsweise relevant sein bei 

• KI-Systemen, die direkt mit Menschen interagieren,
• bestimmten KI-generierten oder manipulierten Bild-, Ton- oder Videoinhalten,
• sowie bestimmten veröffentlichten KI-generierten oder manipulierten Texten.
  

Nicht jeder Einsatz von KI und nicht jeder KI-generierte Inhalt unterliegt denselben Transparenzanforderungen. Ob und welche Pflichten bestehen, hängt von der konkreten Anwendung und der Rolle des Unternehmens ab.

Ausführlichere Informationen zu den Transparenzpflichten und weiteren Anforderungen des AI Acts finden Sie auf der WKO-Seite „AI Act – Die KI-Verordnung der EU“

Beispiel aus dem Betriebsalltag
Ein Betrieb setzt auf seiner Website einen KI-Chatbot ein, der häufige Fragen von Interessenten beantwortet. Für die Nutzer muss entsprechend Artikel 50 erkennbar sein, dass sie mit einem KI-System interagieren, sofern dies nicht ohnehin offensichtlich ist. Ein entsprechender Hinweis kann beispielsweise zu Beginn des Chats oder beim Eingabefeld erfolgen.

Davon zu unterscheiden ist die rein interne Nutzung eines KI-Assistenten, etwa zur Vorbereitung eines Textentwurfs. Ob Transparenzpflichten nach Artikel 50 greifen, ist jeweils anhand des konkreten Einsatzes zu prüfen.

Die Europäische Kommission hat dazu aktuelle Leitlinien veröffentlicht, die die Anforderungen aus Artikel 50 näher erläutern.

Unabhängig von einzelnen gesetzlichen Pflichten ist es für den betrieblichen Umgang mit KI sinnvoll, Zuständigkeiten festzulegen.

Zum Beispiel:

• Wer prüft einen mit KI vorbereiteten Text vor der Veröffentlichung?
• Wer kontrolliert fachliche Angaben?
• Wer entscheidet, ob ein KI-Vorschlag tatsächlich umgesetzt wird?
• Wer ist Ansprechpartner bei Unsicherheiten?
• Wer trägt die Verantwortung?
  

Beispiel aus dem Betriebsalltag
Ein KI-Assistent erstellt aus einigen Stichpunkten einen Text für die Website. Bevor der Text veröffentlicht wird, prüft die zuständige Person im Betrieb, ob Leistungen, technische Angaben und Aussagen zum Unternehmen tatsächlich stimmen.

Ein sprachlich überzeugendes KI-Ergebnis ist nicht automatisch fachlich richtig oder für den konkreten Betrieb geeignet.

Deshalb gilt:
KI kann beim Vorbereiten, Strukturieren und Formulieren unterstützen. Die fachliche Prüfung, die Verantwortung für die Verwendung der Ergebnisse und die betriebliche Entscheidung bleiben bei den zuständigen Personen.