Chancen und Gefahren bei KI-Nutzung

Ein Kurs im PIKSL Labor gab Tipps zum Umgang im Büroalltag.

KI hilft viel – aber wo birgt Künstliche Intelligenz Gefahren? Darum ging es im Kurs „KI in der Arbeitswelt“ des PIKSL Labors. Sechs Wochen lang beschäftigten sich Teilnehmende der von Jobcenter und Stadt beauftragten Maßnahme Train2be und Train2beplus mit sicherer und kompetenter KI-Nutzung.
„Beim Datenschutz sind wir Nutzer in der Pflicht – die KI weiß nicht, ob etwas legal ist oder nicht“, betonte Kursleiter Sven Beiser. „Die Entscheidung liegt bei uns.“ Deshalb sei es wichtig, zwischen öffentlichen und privaten oder sensiblen Informationen zu unterscheiden. Gemeinsam überlegten die Teilnehmenden, was sensible Daten sein könnten. Der eigene Name, Krankheiten, Passwörter, Adressen, aber auch Finanzinformationen, waren sich schnell alle einig.

Sparsam mit Daten
Wie das in der Praxis funktioniert, machte Sven Beiser anhand eines fiktiven Beispiels deutlich: Ein Kunde beschwert sich über verspätete Lieferung und beschädigte Ware. Die Teilnehmenden sollten dann ankreuzen, welche Informationen die KI für einen Antwort-Vorschlag bekommen solle: Name, Adresse, Kundennummer und Bestellnummer des Kunden, Foto der beschädigten Ware, Liefertermin? Nach kurzer Diskussion wurde deutlich: Eigentlich braucht die KI nur das Foto der Ware und den grundsätzlichen Sachverhalt, Inhalte wie Kundennummer oder Adresse sind tabu. Bei längeren Dokumenten wie Verträgen helfe es auch, sensible Informationen zu schwärzen, erklärte Sven Beiser.
Und er betonte, dass inzwischen auch mit Fotos, Videos und Sprache mithilfe von KI Missbrauch betrieben werden könne, der schwer zu entdecken sei. Als Beispiel diente ein fiktiver Fall, in dem ein vermeintlicher Vorgesetzter per Sprachnachricht um die Kundenliste bat. Hier galt es abzuschätzen: Kommt die Nachricht von einer bekannten Nummer? Wird Druck zu schnellem Handeln aufgebaut? Passt der Auftrag zur bisherigen Kommunikation? „In so einem Fall sollte man das immer über einen zweiten Kanal bestätigen – etwa über eine bekannte Telefonnummer anrufen und sich rückversichern“, riet Sven Beiser.

Gut nutzbare Informationen
In den anderen Kursstunden ging es um Grundlagen fürs Prompting, um Texten und Recherche mit der KI. Es wurde betont, dass alle Quellen geprüft werden müssen, und dass Fakten, Meinungen und Vermutungen getrennt werden sollten.
„Das war wirklich sehr interessant – ich möchte später im Büro arbeiten, da kann ich das gut nutzen“, freute sich Teilnehmer Pascal. Obwohl er sich vorher wenig mit dem Thema beschäftigt hatte, kam er gut mit. Teilnehmerin Sabrina arbeitet selbst häufig mit KI, meinte aber trotzdem: „Ich lerne hier noch ganz neue Sachen, etwa Fachbegriffe, und viel über Datenschutz.“ Sie fand die Atmosphäre im Kurs sehr angenehm.
Grundsätzlich vorsichtig sei sie im Internet mit Daten, sagte Clare. Sie schätzte jedoch die Vertiefung der Themen, fand es allerdings manchmal schwierig, die Aufgaben in der vorgegebenen Zeit zu lösen. Lars freute sich über viele der Anregungen, etwa auch die Entscheidungsmatrix, welche Daten man an KI geben könne. „Das war sehr lehrreich. Jetzt wissen wir, wie man KI besser einsetzen kann.“