© REUTERS/Dado Ruvic
Deepfakes erkennen: So will Meta KI-Content kennzeichnen
Bisher ist es für Nutzer schwer, KI-generierte Inhalte von anderen zu unterscheiden. Das kann unter anderem zu Wahlmanipulation, wie kürzlich in den USA, führen. Dagegen möchte Meta vorgehen.
Beim Facebook-Konzern Meta sollen Nutzer künftig vorwarnen, wenn sie täuschend echt wirkende KI-Videos oder -Audiodateien veröffentlichen. Versäumen sie dies, könnten ihnen Konsequenzen drohen, warnte Metas Politik-Chef Nick Clegg am Dienstag in einem Blogeintrag.
Auf Grundlage der Hinweise will der Konzern in seinen Diensten solche mit Hilfe Künstlicher Intelligenz erstellte Inhalte kennzeichnen. Zu Meta gehören neben Facebook unter anderem auch Instagram und WhatsApp.
Die Aufforderung an die Nutzer sei erforderlich, weil es in KI-Software zum Erstellen von Videos und Ton-Dateien noch nicht so üblich wie bei Fotos sei, unsichtbare Wasserzeichen zu integrieren, erläuterte Clegg. Zugleich schränkte er ein, dass es Wege gebe, diese Wasserzeichen zu entfernen. Meta arbeite aber daran, dies zu erschweren.
Empfohlener redaktioneller Inhalt
An dieser Stelle finden Sie einen von unseren Redakteuren ausgewählten, externen Inhalt, der den Artikel für Sie mit zusätzlichen Informationen anreichert. Sie können sich hier den externen Inhalt mit einem Klick anzeigen lassen oder wieder ausblenden.
Ich bin damit einverstanden, dass mir der externe Inhalt angezeigt wird. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr Informationen dazu erhalten Sie in den Datenschutz-Einstellungen. Diese finden Sie ganz unten auf unserer Seite im Footer, sodass Sie Ihre Einstellungen jederzeit verwalten oder widerrufen können.
Die Idee dabei sei, die Wasserzeichen direkt in die Erstellung der Dateien zu integrieren, so dass sie nicht deaktiviert werden könnten. Auch entwickele der Konzern Technologie, um mit KI generierte Inhalte automatisch zu erkennen.
In den USA hatten vor wenigen Wochen automatisierte Anrufe mit einer täuschend echt klingenden Nachahmung der Stimme von Präsident Joe Biden für Alarmstimmung gesorgt. Die Botschaft der Anrufe war, nicht an der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire teilzunehmen. Der Vorfall schürte die Sorge, in den kommenden Monaten könnte es Versuche geben, den Ausgang der Präsidentenwahl im November mit der Verbreitung täuschend echter KI-Fälschungen zu beeinflussen.
Meta ist Teil einer Branchen-Koalition, die Standard-Technologien für die Auszeichnung der mit Hilfe von KI generierten Dateien etablieren will. Meta wolle auf dieser Grundlage KI-Bilder in den Apps Facebook, Instagram und Threads in allen unterstützten Sprachen auszeichnen.
Der Konzern hat auch selbst KI-Software zum Erstellen von Bildern über Text-Vorgaben im Angebot. Diese Dateien enthalten sowohl sichtbare Markierungen als auch unsichtbare Wasserzeichen. (dpa)
- showPaywall:
- false
- isSubscriber:
- false
- isPaid:
- showPaywallPiano:
- false