KI-Guideline §6: Sicherheit und Qualität von Daten

§6 Umgang mit der Qualität von KI-generierten Inhalten

Unternehmensangehörige dürfen Informationen aus KI-Systemen nur verwenden, nachdem sie deren Richtigkeit und Zuverlässigkeit überprüft haben.

Erläuterungen

Die Ergebnisse von KI-Systemen sind nicht immer wahr oder aktuell. KI-Systeme haben nicht immer oder nur eingeschränkten Echtzeit-Zugriff und können daher nur auf Daten bis zu einem bestimmten Zeitpunkt zugreifen. Selbst bei Systemen mit Web-Zugriff ist eine gründliche Quellenprüfung ratsam. Das bedeutet, dass neue, für Ihr Interesse relevante Erkenntnisse, Ereignisse, Daten und Informationen möglicherweise noch nicht im Produkt der KI berücksichtigt sind. Aus diesem Grund ist ein Abgleich mit gesichertem menschlichem Fachwissen sowie mit aktuellen Daten von vertrauenswürdigen Quellen empfehlenswert.

Bei der Suche nach Informationen ist es darüber hinaus wichtig, nicht nur auf deren Aktualität, sondern auch auf die Zuverlässigkeit der Quelle zu achten. Dies kann bereits bei der Auswahl der passenden KI-Anwendung eine Rolle spielen. Denn Modelle wie ChatGPT oder Google Gemini sind zwar beeindruckend, aber nicht unbedingt für alle Recherchezwecke die besten Werkzeuge. Da sie möglicherweise mit fehlerhaften Daten trainiert wurden, kann es zu sogenannten „Halluzinationen” oder erfundenen Quellen kommen, also zu nichtexistierenden oder falschen Quellenangaben. Auch wenn Sie ein anderes KI-Recherche-Tool mit höherer Genauigkeit bei der Quellenangabe verwenden, ist es dennoch ratsam, die Herkunft der Informationen zu überprüfen. Verlassen Sie sich niemals allein auf das KI-Tool und wählen Sie Ihre Quellen mit Bedacht aus.

Tipps für die Praxis

• Überprüfen und bestätigen Sie die Richtigkeit von Informationen, Daten und Analysen, bevor Sie sie in Ihre Arbeit einfließen lassen.
• Vergleichen Sie Informationen mit aktuellen und glaubwürdigen Quellen, um die Authentizität und Zuverlässigkeit zu überprüfen.
• Nutzen Sie Fact-Checking-Tools zur Verifikation von KI-Aussagen.
• Stellen Sie sicher, dass Sie mit KI-Ergebnissen nicht versehentlich Desinformation verbreiten oder irreführende Darstellungen fördern.