Mit dem EU AI Act gelten ab dem 2. August 2026 neue Transparenzpflichten für KI-generierte Inhalte. Für Fotografen und Bildbearbeiter ist insbesondere Artikel 50 relevant: Danach müssen sogenannte Deepfakes bei ihrer Veröffentlichung gekennzeichnet werden.

Kritisch ist: Erstens: Die Definition des Begriffs "Deepfake" ist in Artikel 3 Nr. 60 bewusst weit gefasst. Er umfasst Bild-, Audio- oder Videoinhalte, die mithilfe von KI erzeugt oder manipuliert wurden und für Betrachter echt wirken können. Damit sind nicht nur vollständig künstlich erzeugte Bilder gemeint, sondern grundsätzlich auch KI-gestützte Veränderungen an Fotografien.

Besonders wichtig: Der AI Act kennt keine Bagatellgrenze! Es gibt kein „ein bisschen KI“. Entweder liegt eine kennzeichnungspflichtige KI-Manipulation vor – oder die Bearbeitung fällt unter die Ausnahme für reine Standardbearbeitungen. Eine Grenze nach Umfang oder Prozentanteil der KI existiert nach Artikel 5 Abs. 4 nicht.

Das bedeutet: Werden bei einer Retusche Bildinhalte durch generative KI neu erzeugt oder ersetzt, kann bereits eine vergleichsweise kleine Änderung kennzeichnungspflichtig sein, wie Hintergründe ergänzen, oder auch Haut-Retusche(!), sofern KI-gestützt ausgeführt. Entscheidend ist nicht die Größe der Retusche, sondern die Art der KI-Nutzung. Wo die Grenze zur ausgenommenen Standardbearbeitung verläuft, wird die Rechtsprechung und die Auslegung der EU-Kommission in den kommenden Jahren konkretisieren.

Wie werdet Ihr auf diese Forderungen reagieren?
Wie wird die MK reagieren? Ich bin für eine Ergänzung der Metadaten zu den veröffentlichten Bildern um einen weiteren Eintrag: "mit KI erstellt" Dies würde Veröffentlicher die gesetzliche Pflichterfüllung deutlich vereinfachen.

Für die MK oder überhaupt bei Menschen als Motiv wäre "körperliche Modifikation" maßgeblich, und dabei egal, ob Photoshop, insta-Filter oder KI ... und dick nachgezogene Augenbrauen wären schon relevant !

#2, korrekt. Nun kommt die rechtliche Relevanz hinzu.

SEE - anarchisch, autonom, autark !?
Sorry, aber Du hast die Frage des TO irgendwie gar nicht verstanden. Es geht nicht darum, was laut gesundem Menschenverstand für die MK relevant ist, sondern darum, was ein Gesetz fordert.

Bernd Pesch
Heutzutage findet man viel Unsinn im Netz veröffentlicht. Ich danke Dir schon einmal dafür, dass Du genaue Angaben zu den Artikeln gemacht hast damit man es selbst nachlesen kann. Ich muss zugeben, dass beispielsweise der (genannte) Artikel 50 mir unverständlich erscheint. Ich zitiere hier einmal die Überschrift:
"Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme"
Passt das auf uns? Auch inhaltlich ist da viel, was gar nicht passt. Die entscheidende Passage auf die Du dich beziehst, sehe ich aber auch.
Ich hoffe einfach, dass irgendjemand es uns demnächst noch besser erklärt. Falls nicht, so würde ich eventuelle Bildmanipulationen dadurch offen legen, dass ich in Bildunterschriften erwähne, wie die KI geholfen hat.

Was die MK betrifft:
Ich gehe zu 99% davon aus, dass entweder absolut gar nichts passieren wird oder auf das mehr oder weniger unspezifische KI-Verbot verwiesen wird. Also: Wenn eine Kennzeichnung erforderlich sein sollte, dann ist das Bild ohnehin in der MK verboten. Ergo ist nicht erforderlich hier etwas für eine Kennzeichnung vorzusehen.

@ Bernd Pesch
Du hast ja selber das Fehlen einer Bagatellgrenze genannt - das können die Palmen am Strand sein oder eben Lidschatten und Wimpernverlängerung. Genau da wirkt der Umkehrschluß - wie soll denn bewiesen werden, daß a) das Model mit Wimperntusche und Cajalstift sich selbst intensiver nachschminkte oder b) dies bearbeitungsweise in Photoshop, Lightroom usw. erfolgte ? Es stünde immer die Behauptung da, ein Eingriff c) sei erfolgt und per KI-Prompt seien der Lidstrich, Wimpern oder Augenbrauen optimiert und verstärkt worden.
Genau diese "Bagatellkorrekturen" könnten bewirken, daß nahezu jedes Bild vorsichtshalber gekennzeichnet würde, nur um keinen Rechtsstreit hervorzurufen - weil sonst das "out-of-Cam" und noch schwieriger, eine "digitalgraphische" Bildbearbeitung erst bewiesen werden müßte. Wenn, dann hätte die "Brandmauer" irgendwo zwischen vollständiger Bilderzeugung per KI und teilweiser Bildbearbeitung per KI eingezogen werden müssen - mit Durchgriff bis in die Bagatelle ist es schon perdu ..

Es ist nicht zu vergessen, dass auch die Definition von KI sehr weit gefasst wird. Es könnte fast darauf hinauslaufen, dass JEDE Nachbearbeitung KI ist. :-)

Ich wüßte nicht, warum eine Nachbearbeitung mit einem alten Photoshop, beispielsweise CS1, KI sein soll. Es geht hier doch um die neuen Möglichkeiten und nicht um generelle Bildbearbeitung.

Kurz und bündig:
Menschen, oder wofür wir diese Abbildungen halten, die es aber wohlgemerkt in der Realität überhaupt nicht gibt wären ebenso zu kennzeichnen, wie beispielsweise Locations, an denen das angebliche FOTO überhaupt nicht statt fand.

So etwas ist ganz einfach Betrug am Betrachter. Wo bitte wäre denn dann überhaupt ein Unterschied zu einer Imitation von beispielsweise hochwertigen Modeartikeln oder sonstigen Sachgegenständen? Nähme man darüber hinaus noch existierende Menschen als Steigerung des Ganzen dazu, wäre diese Volksverdummung endgültig und voll im Gange.

Die Sau wurde ja schon oft durchs Dorf getrieben....Ja, es wird wie Norbert in #8 es beschreibt gehandhabt werden. Alles Andere ist Phantasie.

@ eckisfotos

Falls nicht, so würde ich eventuelle Bildmanipulationen dadurch offen legen, dass ich in Bildunterschriften erwähne, wie die KI geholfen hat.

Es könnte fast darauf hinauslaufen, dass JEDE Nachbearbeitung KI ist.

Das wäre zwar eine sehr gute Präzisierung und da stimme ich Dir gerne zu; wir hatten uns ja schon mehrfach in bisherigen Forumsthemen dazu ausgetauscht. Mit Deinem zweiten Satz aus #6 bringst Du es schon auf den Punkt :
"Bagatelle" einerseits und "Standardbearbeitung" andererseits .. was gilt dann nun für Augenbrauen, Wimpern und Lidstrich ? Daß insta-Filter schon seit bald 10 Jahren Verschlankungen von BMI 28 auf BMI 22 liefern, hatte bislang gar keine juristischen Folgen. Wenn ich keinen Bock habe, mit jedem hochgeladenen Bild auf dem Prüfstand zu landen, dann schreibe ich eben gleich standardmäßig "per KI erzeugt" darunter, auch wenn es bis auf Bildschnitt und Kontraständerung so aus der LeiCaNikOlymPenFujiPanSony stammte ..

Das Copyright-Zeichen © für die eigene lichtbildnerische Fotografie samt eigener digitalgraphischer Bearbeitung wäre wie bisher die Gewähr, daß keine KI genutzt wurde. Verzichtet man auf dessen Verwendung, so wäre man auch nicht mehr beweispflichtig. Nur wenn man den KI-Prompt doch als urheberrechtliches Wirken ansieht, stellt sich die Frage, ob das Zutun der KI Schöpfungshöhe erlangt oder nicht. Wenn also digitale Composings und Animationen copyrightfähig sind, die genauso wie KI auf Computern und Software beruhen, dann ist KI doch nur ein neues Tool, also ein neu geschaffenes Werkzeug ? Oder würde irgendjemand die Musik auf Gesang reduzieren, nur weil die meisten durch Instrumente erzeugten Töne auf einer Abfolge von Handgriffen beruhen, aber nicht auf menschlicher Stimme ? Klavier, Gitarre, Violine, Akkordeon, Schlagzeug ... oder würde heute noch jemand sagen, daß jeglicher Tastendruck auf einem Keyboard keinerlei Schöpfungshöhe besitzt ? Das Aufziehen einer Spieluhr, die dann eine Melodie abspielt, ist auch nur Fingerbewegung, klar. Aber das Aufziehen der Spieluhr und auch das Bedienen eines Flipperautomats erreichen keine Schöpfungshöhe, während das individuelle Formulieren eines Prompts durch gesprochenen oder getippten Text ein jeweils doch einzigartiges Bild erzeugt !
Noch ein Gedanke : Wenn die Fotochemie es nie zu Dias und Farbbildern gebracht hätte und bis zum Millennium weiterhin nur Schwarzweiß fotografiert worden wäre : Würde ich nun meine s/w-Bilder aus 3 Jahrzehnten (1970 bis 2000) nicht nur digitalisieren, sondern auch farbig colorieren : Verlöre ich dann mein Urheberrecht, wenn das Einfärben nicht per Gimp, sondern per Grok erfolgen würde ? Mein Fahrrad war rot, aber hatte mein Schulfreund ein blaues oder doch ein grünes ? Auf dem Bild ist auch ein Simca - den gab es in beige, aber auch in hellblau, aber ich erinnere mich nicht. Dann ist es doch meine Entscheidung, welche Farbe ich im Prompt nenne .. vielleicht passend zum Kleid der Beifahrerin, die gerade einsteigt : Also türkis für das Kleid und dann eben beige für den Simca, oder wie wäre ein senfgelbes Kleid, dann paßt der hellblaue Lack doch besser ? Unter 5 realen Möglichkeiten eine auszuwählen, ist Schöpfung ..

"Bernd Pesch" schrieb: Werden bei einer Retusche Bildinhalte durch generative KI neu erzeugt oder ersetzt, kann bereits eine vergleichsweise kleine Änderung kennzeichnungspflichtig sein, wie Hintergründe ergänzen, oder auch Haut-Retusche(!), sofern KI-gestützt ausgeführt. Entscheidend ist nicht die Größe der Retusche, sondern die Art der KI-Nutzung.

Es wird im Vorfeld aber auch häufig reichlich in den Interpretationen überzogen. In Deutschland sind wir auch eher geneigt zu überlegen, was nun mit welcher Argumentation und Interpretation alles verboten sein könnte, statt uns etwas wohlwollender zu überlegen, was man als weiterhin erlaubt verstehen darf. So erinnert mich das Thema nun schon sehr an die erregt diskutierten Warnungen, mit Einführung der DSGVO würde die Panoramafreiheit abgeschafft. Was war das für ein Theater. Das Ende der Fotografie im öffentlichen Raum war angeblich nah. Tatsächlich ist das aber nicht der Fall gewesen. Das KunstUrhG galt und gilt im Gegenteil wie bisher weiter und bleibt diesbezgl. klar.

Der AI Act bringt seine eigene relevante Ausnahme dann ja auch gleich mit. Die dürfte doch bezogen auf die MK quasi einzig maßgeblich sein. Denn reine KI-Inhalte sind hier ohnehin verboten. Wo nichts ist, braucht man auch nichts kennzeichnen. Das eine Hautretusche eines echten Fotos per KI-Unterstützung kennzeichnungspflichtig wäre, ist nicht der Fall:

Artikel 50 Absatz 2 des AI Acts beschreibt die "Assistenz-Ausnahme". Sie ist für ein Bürokratengesetz doch erfreulich praxisnah gedacht und beschreibt im Grunde den gesunden Menschenverstand. Dort ist geregelt, dass die Pflicht zur Erkennung und Kennzeichnung von KI-Inhalten ausdrücklich nicht gilt, wenn „... KI-Systeme eine unterstützende Funktion für die Standardbearbeitung erfüllen oder die bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern.“ Was in der Fotografie eine "Standardbearbeitung" ist, könnte man zu Tode diskutieren aber im Grunde darf man hier als Maßstab wohl die volle Palette bisher bereits üblicher Beauty-Retusche anlegen. Ab wann dann eine wesentliche Veränderung der "Semantik" vorliegt, wird sich sicherlich im Laufe der Zeit noch erweisen müssen (oder auch nicht, denn "wo kein Kläger, da kein Richter"). Die Herangehensweise ist hier oft unterschiedlich. In vielen europäischen Ländern wird man das sehr lasch sehen und einfach machen. In Deutschland hat man schnell Angst und beschränkt sich im vorauseilendem Gehorsam selbst. Aber dafür gibt es auch tatsächlich einen guten Grund, den wir hier dann vielleicht wieder erblühen sehen werden: Das einzigartige deutsche Abmahnwesen.

Die schon länger etablierten Tools zur KI-gestützten Retusche etc. darf man nichtsdestotrotz gemäß Gesetz wohl als eher unproblematisch, weil als ausgenommene "unterstützende Funktion für die Standardbearbeitung" verstehen. Das ergibt auch Sinn, denn das Ergebnis unterscheidet sich nicht wesentlich von manuell erzeugter Retusche per Photoshop etc. Der Großteil der hier gezeigten Fotos dürfte in Sachen KI maximal unter diese Ausnahme fallen. Weitergehend KI-generiertes hochzuladen ist hier ohnehin nicht erlaubt. Für den Betreiber könnte es durch die neuen Pflichten höchstens einfacher werden, unerwünschte KI-generierte Inhalte zu erkennen und ihren Upload zu unterbinden, wenn ein digitales Wasserzeichen eingebettet werden muss.

Zitat MartinWalltree (#chilloutfotografie):
"Artikel 50 Absatz 2 des AI Acts beschreibt die "Assistenz-Ausnahme". Sie ist für ein Bürokratengesetz doch erfreulich praxisnah gedacht und beschreibt im Grunde den gesunden Menschenverstand. Dort ist geregelt, dass die Pflicht zur Erkennung und Kennzeichnung von KI-Inhalten ausdrücklich nicht gilt, wenn „... KI-Systeme eine unterstützende Funktion für die Standardbearbeitung erfüllen oder die bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern.“ Was in der Fotografie eine "Standardbearbeitung" ist, könnte man zu Tode diskutieren aber im Grunde darf man hier als Maßstab wohl die volle Palette bisher bereits üblicher Beauty-Retusche anlegen. "

Das sehe ich genau so. Ich hoffe, dass keine anderen Artikel, etwas anderes aussagen. Und auch ich sehe es so, dass alles, was über die "Standardbearbeitung" hinausgeht, hier in der MK ohnehin verboten ist.

@ MartinWalltree
Vielen Dank für Deine Erläuterung zu Art. 50 (2) .. dann schließe ich mich Euch zu #11 und #12 gerne an !

Änderungen durch den KI-Omnibus.
Als neue Frist wurde der 2. Dezember 2026 festgelegt. Hierbei ist wichtig, dass die neue Frist nur für Anbieter (Art. 50(2)) und nicht Nutzer (Art. 50(4)) gilt.

Danke für Eure sachlichen Beiträge. Ob ich mich auf die Definition von Assistenzsysteme im Zusammenhang mit Bildbearbeitung verlassen möchte, weiß ich noch nicht.
Hier hat der (europäische) Gesetzgeber erstmalig Grenzen für KI-Systeme gezogen, die es bis dato weltweit nirgends gibt. Es ist also für alle juristisches Neuland. Und daher: "diese Sau wurde noch nicht durchs Dorf getrieben".

Wer mag, kann hierzu auch mal die Sichtweise von Sandra May (Juristin und Bloggerin: https://www.instagram.com/paragraph_und_punkt/) auf Insta nachlesen.

Wie wird die MK reagieren? Ich bin für eine Ergänzung der Metadaten zu den veröffentlichten Bildern um einen weiteren Eintrag: mit KI erstellt

Gemäß den in der MK geltenden Regeln sind

- KI / AI generierte Fotos ... nicht erlaubt und dürfen nicht hochgeladen werden.

Wie Regelverstöße gehandhabt werden, ergibt sich ebenfalls aus dem Regelwerk der MK. Reaktionen seitens MK sind daher, abgesehen von einer Verfolgung des Regelverstoßes, aus meiner Sicht nicht erforderlich. Eine Markierung von Regelstößen würde allerding dem Support das Vorgehen gegen selbige erleichtern.

Es steht immer irgendein ... auf - in diesem Falle mindestens drei:
The Artist formerly called Der Bazi von Hetzendorf
Norbert Hess
MAINpics

Was ist Euer Problem? Habt Ihr Probleme beim Lesen von Beiträgen? Ist es zu kleine Schrift oder die deutsche Sprache oder ist es schlimmer?

Wann endlich begreifen alle den Unterschied zwischen KI/AI generierten Fotos und solchen, die u.U. nur leicht, durch KI-basierte Werkzeuge nachbearbeitet wurden?

Wenn man jeglichen Einsatz von KI als "Betrug am Betrachter" (#8) klassifiziert, dann stimmt das zwar in gewisser Weise - gilt dann aber ebenso, wenn ein Analogfotograf mit der Schere eine Person aus einem Bild schneidet und in ein anderes hineintut. Da nannte man es noch Komposing und war auf Bildbearbeitersedcard in der MK einmal gern gesehen - vielleicht sogar gefordert. Und auch, wenn ein sehr altes Photoshop kleine Flecken auf Bildern entfernt, dann geschieht das mit Hilfe von Gradientenbildung usw. - Methoden, die in den 1980er Jahren Bestandteil von KI waren (nach damaliger Definition). Ganz im Ernst: Ich bin überzeugt davon, dass diese Funktionen in einem neuen Photoshop nicht anders funktionieren - nur man nennt es erst jetzt KI.

Dass wir alle uns einig sind, dass in einer Kartei für echte Fotomodelle und Fotografen, Bilder nicht erlaubt sind, wo ein Fotomodell durch eine KI generiert wurde, liegt nicht nur auf der Hand, sondern schein hier seit langem ein breiter Konsens zu sein. Diese Sau wurde nun wirklich ausführlich durchs Dorf getrieben - daher ist der Beitrag #8 überflüssig und folgerichtig auch #9, der einerseits wie eine Zustimmung aussieht, aber andererseits verkennt, dass genau #8 genau diese Sau antreibt. Und auch "schön", dass sie in #16 erneut freigelassen werden soll.

eckisfotosDas ist wie ein bischen schwanger. Wenn Du mit dem Auto gegen die Einbahnstraße fährts, dann isses egal, ob bis zum Ende, bis zur Mitte oder nur bis zum nächsten Haus. Du verstößt gegen die Regeln. Und ob die Länge der zurückgelegten Strecke einenn Unterschied macht, das kannst du dann mit der Behörde oder dem Richter diskutieren. Warum sollte das in der MK also anders sein? Entweder man läßt es sein, oder man geht das Risiko ein. Es wird ja auch keiner gezwungen, KI einzusetzen, weil er sonst kein gescheits Foto hinkriegt.

@ The Artist formerly .. Bazi

Wenn Du mit dem Auto gegen die Einbahnstraße fährts, dann isses egal, ob bis zum Ende, bis zur Mitte oder nur bis zum nächsten Haus.

Um es in diesem Vergleich zu sagen : Wenn das Befahren der Einbahnstraße in der falschen Richtung bis zum ersten Abzweig (120m) dem Einfügen von Palmen in den Sandstrand entspricht, bis zum zweiten Abzweig (250m) dem Beseitigen von Tattoos oder dem Wechsel der Haarfarbe, beim dritten Abzweig (400m) das Model nicht mehr steht, sondern auf einem Motorrad sitzt und am Ende (500m) das Model ohne ihr Kleid und um 5 BMI-Punkte verschlankt posiert ...
dann ist das mit dem LKW = KI genauso verboten wie mit dem PKW = Photoshop oder dem Motorrad = insta-Filter ..
Als Fußgänger wäre es legal - wie es auch legal wäre, das Model vor dem Shooting neu zu schminken, die 4 Studioblitze durch ein LED-Licht zu ersetzen oder statt RAW monochrome JPEG-Dateien zu erstellen. Denk doch einfach mal KI als Werkzeug - so wie Photoshop, Lightroom, Gimp !
Wenn Du als Maler ein schönes Türkis verwenden willst - nimmst Du dann die moderne, ungiftige Farbe aus der Tube oder bleibst Du ganz traditionell bei der alten Giftmischung aus Quecksilber, Arsen und Blei, die Du nur mit Schutzanzug und Atemmaske verwenden kannst ?

Solche Gesetzgebung wird ja zur Folge haben, dass jeder im kleinsten Zweifel seine Bilder mit "KI" kennzeichnet. Bei den Möglichkeiten, speziell in Deutschland, andere abzumahnen, kann man das eigentlich auch nur empfehlen. Damit wird das Gesetz natürlich ad absurdem geführt.
Wird sicherlich spannend zu beobachten sein.
Das gehört bestimmt zur Entbürokratisierung. ;-)