Meldung ✓
Neue EU-Regeln verpflichten KI-Entwickler zur Kennzeichnung von Deepfakes
Ab dem 2. August müssen KI-Unternehmen in der EU gefälschte Inhalte eindeutig kennzeichnen. Experten bezweifeln jedoch aufgrund technischer Hürden die Wirksamkeit der neuen Vorschriften.
Wat echt ist, bleibt echt. Da nützt auch kein bürokratischer Digital-Stempel.
— Rocky, Chefkolumnist
Ab dem 2. August gelten in der Europäischen Union neue Pflichten für Unternehmen im Bereich der künstlichen Intelligenz. Diese müssen künftig dafür sorgen, dass durch KI erzeugte Inhalte und Deepfakes eindeutig als solche erkennbar sind. Technische und geografische Hürden werfen jedoch Fragen bezüglich der Wirksamkeit dieser neuen Regeln auf.
Vor zwei Jahren verabschiedete die EU umfassende Vorschriften für künstliche Intelligenz und schuf ein eigenes KI-Büro zur Überwachung. Anbieter generativer KI-Systeme wie Claude von Anthropic oder ChatGPT von OpenAI müssen nun sicherstellen, dass künstlich erzeugte oder manipulierte Inhalte nachweisbar sind. Besonders streng sind die Vorgaben für Deepfakes, also realistisch wirkende, manipulierte Bilder, Audios oder Videos, die das Aussehen oder die Stimme realer Personen nachahmen.
Nicht jede synthetische Produktion soll täuschen, weshalb künstlerische, kreative, satirische oder fiktionale Inhalte meist von den Offenlegungspflichten ausgenommen sind. Ein bekanntes Beispiel war im Jahr 2023 ein KI-Bild von Papst Franziskus in einer modischen weißen Daunenjacke, das als Scherz verstanden wurde. Doch dieselbe Technik wird auch destruktiv genutzt. So geriet Popsängerin Taylor Swift im Jahr 2024 ins Visier expliziter KI-Bilder, die ohne ihre Zustimmung verbreitet wurden. Auch in der Politik tauchen Deepfakes auf, wie Euronews berichtet. Kurz nach Beginn des russischen Großangriffs auf die Ukraine im Jahr 2022 forderte ukrainischer Präsident Wolodymyr Selenskyj in einem gefälschten Video Soldaten zur Kapitulation auf.
Zudem sind digitale Spuren fragil. Fachleute warnen, dass Wasserzeichen durch Bearbeitung oder Komprimierung leicht verloren gehen können. Die Europäische Kommission stellt in einer technischen Studie zu dem Thema fest: „Eine Kombination verschiedener Lösungen ist wirkungsvoller als jede Einzelmaßnahme. Als gute Praxis gilt daher, mehrere Ebenen der Kennzeichnung und Erkennung für KI-generierte Inhalte zu implementieren“.
Ob die Brüsseler Politik mit der rasanten technologischen Entwicklung Schritt halten kann, wird darüber entscheiden, ob die neuen Transparenzregeln des KI-Gesetzes einen wirksamen Schutz bieten oder das Problem der Öffentlichkeit entgleitet.
Vor zwei Jahren verabschiedete die EU umfassende Vorschriften für künstliche Intelligenz und schuf ein eigenes KI-Büro zur Überwachung. Anbieter generativer KI-Systeme wie Claude von Anthropic oder ChatGPT von OpenAI müssen nun sicherstellen, dass künstlich erzeugte oder manipulierte Inhalte nachweisbar sind. Besonders streng sind die Vorgaben für Deepfakes, also realistisch wirkende, manipulierte Bilder, Audios oder Videos, die das Aussehen oder die Stimme realer Personen nachahmen.
Nicht jede synthetische Produktion soll täuschen, weshalb künstlerische, kreative, satirische oder fiktionale Inhalte meist von den Offenlegungspflichten ausgenommen sind. Ein bekanntes Beispiel war im Jahr 2023 ein KI-Bild von Papst Franziskus in einer modischen weißen Daunenjacke, das als Scherz verstanden wurde. Doch dieselbe Technik wird auch destruktiv genutzt. So geriet Popsängerin Taylor Swift im Jahr 2024 ins Visier expliziter KI-Bilder, die ohne ihre Zustimmung verbreitet wurden. Auch in der Politik tauchen Deepfakes auf, wie Euronews berichtet. Kurz nach Beginn des russischen Großangriffs auf die Ukraine im Jahr 2022 forderte ukrainischer Präsident Wolodymyr Selenskyj in einem gefälschten Video Soldaten zur Kapitulation auf.
Ein freiwilliger Kodex gegen die Manipulation
Um dieser Entwicklung entgegenzuwirken, hat die EU-Kommission einen freiwilligen Verhaltenskodex entwickelt. Dieser gibt einen Rahmen vor, wie Unternehmen den künstlichen Ursprung synthetischer Inhalte durch maschinenlesbare Markierungen und gut sichtbare Kennzeichnungen offenlegen sollen. Die Regeln richten sich an Entwickler und berufliche Nutzer, während die private Nutzung ausgenommen bleibt. Die Erkennung erfordert eine enge Zusammenarbeit zwischen KI-Unternehmen, sozialen Netzwerken, der Zivilgesellschaft und Faktencheckern.Technische und geografische Hürden
Die Umsetzung stößt jedoch auf erhebliche Hürden. Zum einen enden Online-Inhalte nicht an den Grenzen der EU, wodurch außerhalb Europas erstellte Deepfakes schnell europäische Nutzer erreichen können. Zum anderen ist der technische Reifegrad eine Barriere. Große Anbieter wie OpenAI und Google unterstützen zwar die Ziele, betonen jedoch, dass Kennzeichnungstechnologien ein bewegliches Ziel bleiben. Einheitliche Branchenlösungen fehlen, und die genutzten Methoden wie Wasserzeichen oder Metadaten sind oft nicht kompatibel.Zudem sind digitale Spuren fragil. Fachleute warnen, dass Wasserzeichen durch Bearbeitung oder Komprimierung leicht verloren gehen können. Die Europäische Kommission stellt in einer technischen Studie zu dem Thema fest: „Eine Kombination verschiedener Lösungen ist wirkungsvoller als jede Einzelmaßnahme. Als gute Praxis gilt daher, mehrere Ebenen der Kennzeichnung und Erkennung für KI-generierte Inhalte zu implementieren“.
Ob die Brüsseler Politik mit der rasanten technologischen Entwicklung Schritt halten kann, wird darüber entscheiden, ob die neuen Transparenzregeln des KI-Gesetzes einen wirksamen Schutz bieten oder das Problem der Öffentlichkeit entgleitet.