Safe AI – Rechtslagen und Herausforderungen (Teil 5): Fake News und Safe AI Checkliste

Beim Umgang mit KI-Technologie ist es wichtig sowohl die Trainingsdaten, als auch die manuellen Eingaben zu prüfen. Doch auch die Ausgaben sollten nicht leichtfertig hingenommen werden. Daher möchten wir im heutigen Blogpost unserer Reihe „Safe AI“ auf das Thema Fake News hinweisen und stellen u.a. passende Gegenmaßnahmen zur Bekämpfung von Fake News vor. Abschließend wartet noch eine Checklsite auf Dich, mit der du deinen Umgang mit KI-Tolls (rechts-)sicherer gestalten kannst.

Fake News: Neben den Eingaben auch die und Ausgaben prüfen

Wie eben im letzten Tipp schon impliziert ist es nicht nur wichtig die Eingaben zu prüfen. Sondern auch die Ausgaben.

Dazu zählt neben ggf. der Resubstitution der Variablen für Personenbezogene Daten und ggf. inhaltlicher Anpassungen auch ein möglicher FaktenCheck. Denn so könnte sonst im schlimmsten Fall eine passende Headline aussehen:

Quellen: https://www.rnd.de/panorama/chatgpt-anwalt-benutzt-von-kuenstlicher-intelligenz-erfundene-faelle-vor-gericht-in-den-usa-D2RA6ZWX5BPWHO46ESWW2VGHTY.html

Das ist nämlich tatsächlich Mitte des Jahres so passiert, als ein Anwalt mit ChatGPT ein paar passende Referenzfälle recherchieren wollte.

Klar, bei einer Stellenausschreibung oder einer Einladung zur nächsten Firmenfeier gibt es wahrscheinlich nicht all zu viele gefährliche Fakten, die durch Fake News verbreitet werden können. 

Geförderte Gegenmaßnahmen zur Bekämpfung von Fake News

Das Bundesforschungsministerium ist sich der Herausforderung Fake News bewusst und fördert in diesem Zuge verschiedene Projekte, in denen das ganze Thema erforscht wird, um Gegenmaßnahmen zu enwickeln.

Seit neustem bietet Google für ihren eigenen KI-ChatBot Bard sogar einen automatischen FaktenCheck. Bereits zuvor konnte man manuell die Inhalte in Google suchen und prüfen, seit Ende letztem Monat geht das jetzt sogar komplett automatisch. Das lässt hoffen, dass diese Features langfristig zu allen Künstlichen Intelligenzen dazugehören, wenn sie Informationen bereitstellen.

Safe AI Checkliste – (rechts-)sicher mit KI umgehen

Abschließend möchte ich noch mal kurz und knackig zusammen, wie wir bestmöglich mit den Rechtslagen und Herausforderungen für einen sichereren Umgang mit KI umgehen können.

Als kleine Checkliste:

• Prüfe den Datenschutz: Wie können wir unsere Eingabe ggf. datenschutzkonform abändern?
• Prüfe ggf. das Urheberrecht: Suche nach möglichen Quellen, um Plagiate zu vermeiden.
• Prüfe auf Bias und Diskriminierung: Versuche passend zu deinen Werten und Erwartungen Inhalte anzupassen und ggf. Feedback an KIs zurückspielen, wenn etwas diskriminierend ist.
• Prüfe die Fakten: Sind die gelieferten Informationen korrekt? Ist das wirklich so passiert? Tipp: sucht mindestens zwei unabhängige Quellen. Bleibt kritisch!
• Und als letztes: Bleibe auf dem Laufenden! KI ist ein Thema, das sich rasenschnell verändert und entwickelt. Neue Features oder Daten werden ergänzt, aber auch rechtlich sind wir noch auf einer Reise. Dazu wird auch gleich die liebe Jennifer noch mehr erzählen. Also informiert euch regelmäßig, um auch hier alles richtig zu machen oder auch neues zu entdecken.

What’s next? Welche weiteren Gesetze sind geplant?

Aktuell gibt es noch kein einheitlich geltendes KI Recht, sondern in Deutschland beziehen wir uns auf aktuell geltende Rechte, die wir euch teilweise in dieser Reihe bereits vorgestellt haben. Die EU plant darüberhinaus ein weiteres Gesetz: Der AI Act. Im nächsten und letzten Blogbeitrag dieser Reihe erwartet euch nächste Woche ein kleiner Rundumschlag dazu!