Beschreibung
Anthropic führt für Claude eine neue Form der Kennzeichnung KI-generierter Inhalte ein: unsichtbare digitale Wasserzeichen.
Die maschinenlesbaren Markierungen sollen direkt in generierten Texten sowie in den Metadaten von Bildern hinterlegt werden, ohne dass Nutzer beim Lesen oder Betrachten einen Unterschied bemerken. Besonders spannend: Bei Texten soll die Kennzeichnung in vielen Fällen sogar erhalten bleiben, wenn Inhalte kopiert und in andere Dokumente eingefügt werden.
Hintergrund sind neue Transparenzanforderungen der Europäischen Union und die immer drängendere Frage, wie sich die Herkunft digitaler Inhalte in einer Welt generativer KI nachvollziehen lässt.
Perfekt ist die Technik allerdings nicht. Starkes Umschreiben, Kürzen oder andere Veränderungen können die Erkennung erschweren oder vollständig entfernen.
Die Folge beleuchtet, wie digitale Wasserzeichen funktionieren, warum Anthropic diesen Schritt jetzt geht und weshalb auch andere große KI-Anbieter an technischen Herkunftsnachweisen arbeiten.
Denn je schwieriger es für Menschen wird, KI-generierte Inhalte zu erkennen, desto wichtiger könnte es werden, dass Maschinen diese Aufgabe übernehmen.
Die maschinenlesbaren Markierungen sollen direkt in generierten Texten sowie in den Metadaten von Bildern hinterlegt werden, ohne dass Nutzer beim Lesen oder Betrachten einen Unterschied bemerken. Besonders spannend: Bei Texten soll die Kennzeichnung in vielen Fällen sogar erhalten bleiben, wenn Inhalte kopiert und in andere Dokumente eingefügt werden.
Hintergrund sind neue Transparenzanforderungen der Europäischen Union und die immer drängendere Frage, wie sich die Herkunft digitaler Inhalte in einer Welt generativer KI nachvollziehen lässt.
Perfekt ist die Technik allerdings nicht. Starkes Umschreiben, Kürzen oder andere Veränderungen können die Erkennung erschweren oder vollständig entfernen.
Die Folge beleuchtet, wie digitale Wasserzeichen funktionieren, warum Anthropic diesen Schritt jetzt geht und weshalb auch andere große KI-Anbieter an technischen Herkunftsnachweisen arbeiten.
Denn je schwieriger es für Menschen wird, KI-generierte Inhalte zu erkennen, desto wichtiger könnte es werden, dass Maschinen diese Aufgabe übernehmen.