Neue Regeln für den Einsatz von KI

Ein Regelwerk für den Einsatz von KI gibt es in der EU bereits seit 1. August 2024 mit der Verordnung über künstliche Intelligenz (AI-Act), geändert durch den „Omnibus on AI“. Der „Omnibus on AI“ wurde am 24. Juli 2026 im Amtsblatt der Europäischen Union veröffentlicht und trat drei Tage nach der Veröffentlichung in Kraft. Einzelne Bestimmungen aus dem AI-Act treten sukzessive in Geltung. Seit dem 2. August des laufenden Jahres sind nun die Transparenzpflichten anzuwenden.

Je nachdem, ob man Anbieter (beispielsweise durch die Entwicklung eines Chatbots) und/oder Betreiber (zum Beispiel durch die Einbindung von KI-generierten Inhalten auf einer Website) im Sinne des AI-Acts ist, gelten verschiedene Kennzeichnungsvorschriften. Daher muss man sich zuerst seine genaue Rolle in der Wertschöpfungskette ansehen. 

Interaktion mit AI: Infopflicht

Anbieter von KI-Systemen müssen Systeme, die mit natürlichen Personen direkt interagieren (z.B. Chatbots) so konzipieren und entwickeln, dass Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Ausgenommen davon sind Fälle, wo dies für eine angemessen informierte, aufmerksame und verständige natürliche Person aufgrund der Umstände und des Kontexts offensichtlich ist (z.B. Interaktionen mit KI-gesteuerten nicht spielbaren Charakteren in einem Einzelspieler-Videospiel, bei dem aufgrund der Art des Videospiels klar ist, dass keine andere natürliche Person teilnehmen und interagieren kann).

Maschinenlesbares Format

Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind (z.B. durch Wasserzeichen, Metadatenidentifizierung, etc.)

Betreiber müssen informieren

Betreiber von Emotionserkennungssystemen oder eines Systems zur biometrischen Kategorisierung müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren. KI-Systeme, die gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassen sind, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, sind davon ausgenommen.

Deepfakes kennzeichnen

Nutzt man vorhandene KI-Systeme als Betreiber, um Bild-, Ton- oder Videoinhalte zu erzeugen oder zu manipulieren, die ein Deepfake sind, muss man diese Inhalte zukünftig kennzeichnen. Ein Deepfake im Sinne des AI-Acts ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen würde (z.B. ein KI-generiertes Video, in dem eine Person, die einem Politiker ähnelt, vor Publikum eine Rede hält). Handelt es sich bei dem Inhalt um kein Deepfake, unterliegt dieser nicht den Transparenzpflichten. Ob ein Deepfake vorliegt, ist stets im Einzelfall zu beurteilen. 

Bei Texten, die von einer KI erzeugt oder manipuliert wurden, gelten dann keine Transparenzpflichten, wenn diese von einem Menschen überprüft wurden oder eine redaktionelle Verantwortlichkeit besteht. KI-erzeugte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, sind zu kennzeichnen. 

Kennzeichnung regelmäßig

Die Kennzeichnung hat in klarer und eindeutiger Weise spätestens zum Zeitpunkt der ersten Interaktion, bei längerer Interaktion regelmäßig und in klarer und eindeutiger Weise zu erfolgen. Die Informationen müssen den geltenden Barrierefreiheitsanforderungen entsprechen. Die EU-Kommission hat Leitlinien zu den Transparenzpflichten erarbeitet und veröffentlicht. Diese sollen als Interpretationshilfe dienen. Zur Unterstützung und Umsetzung der Transparenzpflichten wurde ein Praxisleitfaden (Code of Practice) veröffentlicht. Die Transparenzpflichten nach Art. 50 AI-Act treten mit 2. August 2026 in Geltung. Die technische Kennzeichnungspflicht gilt für jene Systeme, die von Anbietern von KI-Systemen bereits vor dem 2. August 2026 in den Verkehr gebracht wurden, aufgrund einer Übergangsregelung des „Digital Omnibus on AI“ ab dem 2. Dezember 2026.

Strafen mit Dynamik

Ebenso sind die entsprechenden Strafbestimmungen mit dem 2. August in Geltung getreten. Die Strafen richten sich nach der Schwere des Regelverstoßes und Größe des betroffenen Unternehmens. Diese können bis zu 15 Mio. Euro oder bis zu 3 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres eines Unternehmens erreichen. 

Bestehende Regelung geändert

Hinweis: Durch den „Omnibus on AI“ wurde unter anderem auch die bereits seit 2. Februar 2025 geltende Regelung zur KI-Kompetenz (AI literacy) ab-
geändert. Die Verpflichtung zur Schaffung von KI-Kompetenz für Anbieter und Betreiber gilt aber grundsätzlich nach wie vor. Anstelle einer Sicherstellung eines ausreichenden Maßes an KI-Kompetenz für ihr Personal, haben Anbieter und Betreiber aber nunmehr Maßnahmen zu ergreifen, um die Entwicklung von KI-Kompetenz ihres Personals oder für sie handelnden Personen zu unterstützen. Diese Verpflichtung bedeutet nicht, dass Anbieter und Betreiber ein bestimmtes Niveau an KI-Kompetenz garantieren müssen.

Weitere Informationen zum AI-Act finden Interessierte unter wko.at/digitalisierung/ai-act-eu und bei der KI-Servicestelle der Rundfunk und Telekom Regulierungs-GmbH (RTR) unter rtr.at/rtr/service/ki-
servicestelle/ki-servicestelle.de.html

WKOÖ-Webinar zu KI-Regel

Für einen Überblick über die geltenden Regelungen und rechtlichen Stolpersteine rund um die Thematik veranstaltet die WKOÖ im Rahmen der KI Tour 2026 ein Webinar unter dem Titel „KI im Unternehmen – Potenziale nutzen, rechtliche Stolpersteine vermeiden“. Termin ist Mittwoch, 14. Oktober, von zehn bis elf Uhr, Informationen und Anmeldung unter www.wk-events.at/ooe/ki-tour-2026/Webinare