KI-Guideline §2: Grenzen von KI – der Mensch als wichtigste Instanz

§2 Der Mensch hat im Einsatz der KI das letzte Wort

Der Einsatz und die Freigabe von KI-generierten Inhalten unterliegen einer gewissenhaften Aufsicht und menschlichen Kontrolle. Die Beschäftigten verpflichten sich, KI-basierte Inhalte erst dann zu übernehmen, wenn diese zuvor von mindestens einer qualifizierten Person auf Richtigkeit, Faktentreue und Kontext überprüft wurden. Bei kritischen Outputs ist das Vier-Augen-Prinzip anzuwenden.

Erläuterungen

So gut KI-basierte Systeme auch sind, sie sind keineswegs fehlerfrei und auch keine Alleskönner. Im Gegensatz zur menschlichen Intelligenz, die von einer Vielzahl von Faktoren wie Erfahrung, sozialen Beziehungen, kulturellen Einflüssen und komplexen Emotionen geprägt ist, beruhen die Fähigkeiten von KI auf den ihr zur Verfügung stehenden Daten, Informationen und Algorithmen.

Sas bedeutet, dass menschliche Fähigkeiten wie Wahrnehmung, Intuition und emotionale Intelligenz weiterhin unersetzlich sind. Die Einzigartigkeit und Verantwortung des Menschen liegen in seiner Fähigkeit, menschliche Aspekte in die tägliche Arbeit einzubringen, Beziehungen zu berücksichtigen und kontextbezogen zu denken und zu handeln.

Menschliche Fähigkeiten bleiben in folgenden Bereichen zentral: 

• Empathie und emotionales Verständnis
• Moralische und ethische Urteilsbildung
• Kontextverständnis und Intuition
• Ironie, Sarkasmus und Nuancen
• Kreative Problemlösung jenseits von Mustern

Sollte durch den Einsatz von KI-Ergebnissen ein Schaden entstehen, haftet das Unternehmen, das diese verwendet hat. Um das Haftungsrisiko zu minimieren, ist es daher umso wichtiger, klare Richtlinien für den Umgang mit KI einzuführen. Die Verantwortung für den angemessenen Einsatz von KI-Technologien liegt dabei nicht nur bei den entwickelnden und anbietenden Unternehmen, sondern auch bei den einzelnen Personen, die diese Systeme nutzen oder die von ihnen erzeugten Informationen weiterverwenden. Es muss sichergestellt werden, dass die eingesetzten KI-Anwendungen im Einklang mit dem jeweiligen Wissensstand sowie den Unternehmenswerten und -zielen handeln.

Tipps für die Praxis

Hilfreiche Fragen im Zusammenhang mit KI-Anwendung können sein:

• Ist das Ergebnis der KI für Ihre Anwendungszwecke relevant?
• Ist das Ergebnis im Einklang mit Ihren Zielen?
• Wie gut ist die Datenqualität?
• Wie sicher sind die Daten?
• Ist der generierte Inhalt ethisch und moralisch vertretbar?
• Enthält der Inhalt Verzerrungen oder wirkt er gegenüber bestimmten Personen(gruppen) diskriminierend?