Bilder, Ton und Video
Was sich erzeugen und bearbeiten lässt, welche Kennzeichnungspflichten gelten und wie man erkennt, dass etwas künstlich ist.
Was möglich ist
| Aufgabe | Reife | Anmerkung |
|---|---|---|
| Illustrationen und Hintergründe erzeugen | hoch | Text im Bild bleibt schwierig |
| Bilder freistellen, retuschieren, erweitern | hoch | |
| Ton in Text verschriftlichen | hoch | Mikrofon wichtiger als Modell |
| Text vorlesen lassen | hoch | Zahlen und Abkürzungen prüfen |
| Untertitel erzeugen | hoch | Namen nachbessern |
| Video erzeugen | mittel | Kurze Einstellungen, hoher Aufwand |
| Eine bestimmte Stimme nachbilden | technisch einfach | Rechtlich heikel, siehe unten |
Erzeugte Inhalte erkennen
- Auf Hände, Text im Bild, Spiegelungen und wiederkehrende Muster achten. Das wird zunehmend unzuverlässig.
- Herkunft prüfen: Wer hat es zuerst veröffentlicht, und lässt sich das nachvollziehen?
- Kontext prüfen: Berichtet sonst jemand darüber, und mit welchen Quellen?
- Bei Aufforderungen zu Geldüberweisungen immer über einen anderen Kanal zurückfragen. Das ist die einzige verlässliche Prüfung.
Die Regler beim Erzeugen
| Regler | Wirkung |
|---|---|
| Schritte | Mehr Schritte, sauberere Details, längere Rechenzeit |
| Führungsstärke | Wie eng dem Prompt gefolgt wird; hohe Werte übersättigen |
| Startwert | Derselbe Startwert erzeugt dasselbe Bild reproduzierbar |
| Negativer Prompt | Was ausdrücklich nicht erscheinen soll |
| Vorgabe durch Kanten oder Pose | Macht aus dem Generator ein Werkzeug mit fester Geometrie |
Siehe Bilder erzeugen.
Für den betrieblichen Einsatz
- Keine realen Personen abbilden, auch nicht als Ähnlichkeit.
- Markenzeichen Dritter nicht erzeugen lassen.
- Erzeugte Bilder als solche kennzeichnen, mindestens in den Metadaten.
- Die Nutzungsbedingungen des Anbieters vor der ersten Kampagne lesen, nicht danach.
- Ergebnisse mit Prompt und Startwert ablegen, damit Varianten reproduzierbar sind.
Die Pflichten aus Art. 50 AI Act
| Wer | Pflicht |
|---|---|
| Anbieter erzeugender Systeme | Ausgaben maschinenlesbar als künstlich erzeugt kennzeichnen |
| Betreiber bei Deepfakes | Offenlegen, dass der Inhalt künstlich erzeugt oder verändert ist |
| Betreiber bei Texten zu öffentlichem Interesse | Offenlegen, wenn ohne redaktionelle Verantwortung veröffentlicht |
| Anbieter von Dialogsystemen | Erkennbar machen, dass ein System spricht |
Ausnahmen bestehen für offensichtlich künstlerische, satirische und fiktionale Werke, allerdings mit der Maßgabe, dass die Offenlegung die Darbietung nicht beeinträchtigen darf.
Wasserzeichen und ihre Grenzen
Verfahren, die eine unauffällige Markierung einbetten, sind verfügbar und werden eingesetzt. Sie überstehen leichte Kompression, aber nicht jede Nachbearbeitung, und sie belegen die Herkunft aus einem System, nicht die Abwesenheit einer Manipulation. Ein Wasserzeichen ist damit eine Sorgfaltsmaßnahme und kein Schutz.
Gegen Stimmbetrug wirksam sind organisatorische Maßnahmen: ein Rückrufverfahren über eine hinterlegte Nummer bei jeder Zahlungsanweisung, ein Vier-Augen-Prinzip ab einem Betrag, und ein vereinbartes Codewort für Ausnahmefälle.
Der Kennzeichnungsbogen
KOSTENLOSES KONTO
Kennzeichnung und Rechte bei erzeugten Medien
Wann gekennzeichnet werden muss, welche Rechte betroffen sind und was vor der Veröffentlichung geklärt sein sollte.
Checkliste2 Elemente