Häufige Fallstricke
Die Fehler, die fast jeder einmal macht: erfundene Angaben übernehmen, vertrauliches eingeben, Rechnen vertrauen, überzeugendem Ton glauben.
Die sieben häufigsten Fehler
| Fehler | Woran man ihn erkennt | Was hilft |
|---|---|---|
| Erfundene Fundstelle | Sie sieht perfekt aus | Jede gegen die Quelle prüfen |
| Falsche Zahl | Sie ist plausibel | Nachrechnen oder Werkzeug nutzen |
| Vertrauliches eingegeben | Fällt erst später auf | Vorher klären, welches Werkzeug wofür |
| Zusage im Entwurf | Klingt hilfsbereit | Entwürfe mit Zusagen immer prüfen |
| Veraltete Angabe | Kein Datum genannt | Nach dem Stand fragen, Quelle verlangen |
| Falsche Voraussetzung übernommen | Die Frage enthielt sie | Frage prüfen, nicht nur Antwort |
| Zustimmung statt Prüfung | Es klingt gut | Ausdrücklich nach Gegenargumenten fragen |
Drei Gewohnheiten, die den meisten Ärger vermeiden
- Vor dem Eingeben: Würde ich das einem Externen ohne Vertrag schicken?
- Nach dem Ergebnis: Welche Angabe darin muss stimmen, und woher weiß ich das?
- Vor dem Weitergeben: Hat ein Mensch das gelesen und verantwortet?
Warum die Zustimmungsneigung gefährlich ist
Modelle werden darauf ausgerichtet, hilfreich zu wirken. Bewertende bevorzugen Antworten, die zustimmen und bestätigen. Das führt dazu, dass ein Modell die Position der fragenden Person übernimmt, auch wenn sie falsch ist.
Gegenmittel im Prompt:
Nenne zuerst die drei stärksten Gegenargumente zu meiner Annahme.
Erst danach deine Einschätzung.
Wenn meine Annahme eine falsche Voraussetzung enthält, sage das zuerst.
Prüfen, ohne alles zu prüfen
Bei Mengen ist vollständiges Prüfen unbezahlbar. Stattdessen:
- 01
Kritische Felder immer prüfen
Beträge, Fristen, Namen, Kennungen. Diese Liste ist kurz und fest.
- 02
Den Rest stichprobenartig
Zehn Prozent, zufällig gezogen, mit dokumentierter Fehlerquote.
- 03
Unsicherheit ausleiten
Was das System selbst als unsicher meldet, geht immer zur Prüfung.
- 04
Die Fehlerquote führen
Steigt sie, sinkt die Stichprobe nicht weiter. Ohne diese Zahl ist jede Prüfquote geraten.
Die Fallstricke mit rechtlicher Folge
- Vertrauliches in ungeprüften Werkzeugen. Ein Verstoß gegen Verschwiegenheit oder Geschäftsgeheimnisschutz entsteht mit der Eingabe, nicht mit der Ausgabe.
- Personenbezogene Daten ohne Rechtsgrundlage. Auch ein Entwurf ist eine Verarbeitung.
- Automatische Entscheidung ohne Prüfung. Art. 22 DSGVO greift auch dort, wo niemand eine Entscheidung beabsichtigt hat.
- Fehlende Kennzeichnung. Bei veröffentlichten künstlich erzeugten Inhalten und bei Dialogsystemen.
- Unbeaufsichtigte Agenten mit Schreibrechten. Ein Fehler ist dort keine falsche Antwort, sondern eine falsche Handlung.
Prompt Injection im Alltag
Sobald ein Werkzeug fremde Inhalte liest, etwa eine Webseite oder eine weitergeleitete E-Mail, kann darin eine Anweisung stehen, die an das System gerichtet ist. Der Schutz ist einfach zu benennen und schwer einzuhalten: Gelesener Inhalt ist immer Daten und niemals Anweisung. Empfänger, Zieladressen und Beträge werden niemals aus gelesenem Inhalt übernommen. Siehe Agenten, technisch.
Das Fehlerbuch
KOSTENLOSES KONTO
Fehlerbuch für die ersten Wochen
Ein Bogen, in dem jeder gefundene Fehler mit Ursache und Gegenmittel landet, weil das nach vier Wochen mehr wert ist als jede Anleitung.
Arbeitsblatt2 Elemente