News vom 19.06.2026

2024 beschloss die EU die KI-Verordnung, einen Satz an Regeln, die künstliche Intelligenz in Europa regulieren und sicherstellen sollen, dass Grund- und Menschenrechte beim Einsatz von KI-Systemen gewahrt bleiben. Diese Woche beschlossen EU-Kommission und das EU-Parlament nun den KI-Omnibus, der viele Regeln aus der KI-Verordnung abändert, noch bevor diese überhaupt völlig in Kraft getreten sind. Während die meisten Regeln nachträglich zu Gunsten von Industrie und Wirtschaft abgeschwächt und verzögert werden, enthält der Omnibus außerdem neue Verbote von KI-Systemen, die sexualisierte Bilder von Personen (meist Frauen) gegen deren Willen erstellen können (sogenannte Nudifyer-Apps) als auch solche, die kinderpornografische Inhalte generieren oder anpassen können. Anlass dieses Verbots waren die Skandale um Elon Musks KI Grok, die Ende letzten Jahres in großen Stil sexualisierte Deepfakes gegen den Willen der abgebildeten Personen generierte, als auch der Fall um Collien Fernandez, die ihrem Ex-Mann vorwirft, mit gefälschten Profilen von ihr sexualisierte Kontakte zu Männern online aufgebaut zu haben.

Während Verbote von KI-Systemen, die dazu bestimmt sind real existierende Personen gegen ihren Willen virtuell auszuziehen durchaus noch nachvollziehbar sind, geht der Omnibus im Bereich Kinderpornografie noch weiter und stellt sämtliche KI-Systeme zur Generierung entsprechender Inhalte unter Strafe, selbst wenn diese gar keine Inhalte real existierender Kinder generieren. Verboten wird neben dem Betreiben und öffentlichen Anbieten solcher Systeme auch schon die Verwendung. Begründet wird dies damit, dass solche Systeme „besonders schädlich und missbräuchlich“ seien, eine „schwerwiegende Gefahr für die Menschenwürde und die Rechte des Kindes“ darstellen und die Gefahr bergen würden, „dass sexuelle Gewalt gegen Kinder normalisiert, verstärkt und fortgesetzt wird.“ Bis heute gibt es keine Belege dafür, dass rein fiktive Kinderpornografie diese Wirkung haben kann.

Gleichzeitig erlaubt der Omnibus den Einsatz solcher Systeme für Polizeibehörden zum Zweck der Strafverfolgung. Darin offenbart sich ein fundamentaler Widerspruch: Wenn KI-generierte Kinderpornografie in jedem Fall so gefährlich und schädlich ist, wie es der Omnibus darstellt, dann gibt es eigentlich keine Rechtfertigung dafür, dass solches Material ausgerechnet von Strafverfolgungsbehörden in den Umlauf gebracht werden darf. Gelten andersherum KI-generierte Inhalte als moralisch vertretbar, wenn sie keine echten Kinder betreffen, gibt es keine Rechtfertigung dafür, diese für den Rest der Bevölkerung unter Strafe zu stellen.