Google SynthID Detector: KI-Inhalte erkennen

KI-generierte Bilder, Videos und Audioinhalte überprüfen

KI-generierte Bilder, Videos und Audioaufnahmen wirken zunehmend realistisch. Für Nutzerinnen und Nutzer wird es dadurch schwieriger, ihre Echtheit einzuschätzen. Wir haben uns den SynthID Detector genauer angesehen. Google will mit dem Tool dabei helfen, bestimmte KI-generierte Inhalte anhand unsichtbarer digitaler Wasserzeichen zu überprüfen.

 

SynthID Detector: Datei für die KI-Erkennung hochladen

So funktioniert Google SynthID

Seit 2023 kennzeichnet Google KI-generierte Medien mit SynthID. Das unsichtbare Wasserzeichen wird direkt in die Bildpixel oder die Tonspur integriert. Nach Angaben des Unternehmens wurden auf diese Weise bereits mehr als 180 Milliarden Bilder und Videos markiert.

 

Der Detector sucht anschließend nach dieser Markierung. Er bewertet also nicht einfach, ob ein Inhalt künstlich aussieht, sondern prüft, ob sich ein entsprechender technischer Hinweis nachweisen lässt. Nicht nur Inhalte von Google, sondern auch die anderer Anbieter können überprüft werden, sofern diese SynthID in ihre Produkte integrieren. Dazu zählen OpenAI, Nvidia und der südkoreanische Technologiekonzern Kakao. Künftig soll auch Apple dazukommen.

SynthID-Ergebnis: Nachweis von KI-generierten Medien im Beispiel

Die Grenzen des SynthID Detectors

So hilfreich das Werkzeug sein kann, so deutlich sind auch seine Grenzen.

 

  • Nicht alle KI-Inhalte werden erkannt

Der Detector sucht nach bestimmten Wasserzeichen. Inhalte aus anderen KI-Systemen, die keine kompatible Kennzeichnung verwenden, bleiben daher unter Umständen unerkannt. Auch bei Open-Source-Modellen ist nicht automatisch eine entsprechende Markierung vorhanden.

 

  • Texte sind ein Sonderfall

Der Detector konzentriert sich auf unterstützte Bilder, Videos und Audioinhalte. Für KI-generierte Texte gibt es andere Ansätze und Verfahren.

 

  • Wasserzeichen sind nicht unverwundbar

SynthID ist darauf ausgelegt, auch bestimmte Veränderungen an Dateien zu überstehen. Eine Garantie dafür, dass die Markierung unter allen Umständen erhalten bleibt, gibt es jedoch nicht. Je nach Bearbeitung und Inhalt kann die Erkennung schwieriger werden.

 

  • Der Grad der KI-Beteiligung bleibt unklar

Ein erkanntes Wasserzeichen beantwortet nicht automatisch die Frage, ob ein Inhalt vollständig mit KI erzeugt oder lediglich mithilfe von KI bearbeitet wurde. Ebenso lässt sich daraus nicht zwingend ableiten, welche einzelnen Bildbereiche, Videosequenzen oder Audiopassagen künstlich entstanden sind.

 

  • Ein negatives Ergebnis ist kein Echtheitsnachweis

Das ist die wichtigste Einschränkung: Wird kein SynthID-Wasserzeichen gefunden, bedeutet das nicht, dass ein Inhalt echt ist. Das bedeutet lediglich, dass der Detector bei der Prüfung kein entsprechendes Wasserzeichen erkannt hat.

 

Unser Tipp: Nutzen Sie den SynthID Detector als zusätzlichen Prüfbaustein und kombinieren Sie das Ergebnis mit einer kritischen Quellenprüfung. Denn auch die beste Erkennungstechnologie kann die sorgfältige Bewertung digitaler Inhalte nicht vollständig ersetzen.

 

Fragen zur Künstlichen Intelligenz? Wir helfen Ihnen gerne weiter – kontaktieren Sie uns einfach.

 

Quellen