Diese Regelung betrifft Unternehmen, Behörden und Privatpersonen gleichermaßen, sobald sie KI-Systeme einsetzen, die mit Menschen interagieren oder Inhalte erzeugen, die echten Aufnahmen oder menschlichen Texten ähneln. Wer die neuen Vorgaben verstehen möchte, sollte zunächst zwischen den beteiligten Rollen unterscheiden, denn die Pflichten treffen Anbieter und Betreiber auf unterschiedliche Weise.
Worum es bei Artikel 50 geht
Der Gesetzgeber verfolgt mit dieser Regelung ein klares Ziel. Menschen sollen nicht unbemerkt mit künstlicher Intelligenz interagieren oder künstlich erzeugte Inhalte für echt halten. Die Verordnung unterscheidet dabei vier grundlegende Situationen. Erstens müssen Anbieter offenlegen, wenn ein System direkt mit einer Person kommuniziert, etwa in Form eines Chatbots. Zweitens müssen Systeme, die synthetische Audio, Bild, Video oder Textinhalte erzeugen, ihre Ergebnisse als maschinell erzeugt kennzeichnen. Drittens gilt eine Informationspflicht, wenn ein System zur Emotionserkennung oder biometrischen Kategorisierung eingesetzt wird. Viertens müssen sogenannte Deepfakes sowie bestimmte KI generierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, entsprechend gekennzeichnet werden.
Pflichten der Anbieter
Anbieter von KI-Systemen tragen die technische Verantwortung dafür, dass ihre Produkte die Kennzeichnung überhaupt ermöglichen. Das bedeutet konkret, dass Systeme, die synthetische Inhalte erzeugen, ihre Ausgaben in maschinenlesbarer Form markieren müssen. In der Praxis geschieht das häufig über digitale Wasserzeichen oder Metadaten, die auch nach einer Weiterverarbeitung erkennbar bleiben sollen. Die Europäische Kommission arbeitet gemeinsam mit Vertretern aus Wirtschaft und Zivilgesellschaft an einem Verhaltenskodex, der praktische Lösungen für diese technische Umsetzung liefern soll. Dieser Verhaltenskodex ergänzt die Vorschriften zu Hochrisiko Systemen und zu KI Modellen mit allgemeinem Verwendungszweck und behandelt insbesondere die Kennzeichnung und Erkennung von KI generierten Inhalten sowie die Kennzeichnung von Deepfakes.
Pflichten der Betreiber
Betreiber sind diejenigen, die ein KI-System im eigenen Namen nutzen, etwa ein Unternehmen, das einen Chatbot auf seiner Webseite einsetzt oder synthetische Bilder in der Werbung verwendet. Sie müssen sicherstellen, dass die betroffenen Personen erkennen, dass sie es mit einem KI System zu tun haben oder dass ein Inhalt künstlich erzeugt wurde. Dabei kommt es auf die konkrete Ausgestaltung an. Ein Hinweis muss klar und verständlich sein, ohne dass er den Nutzungsfluss unnötig stört. Der AI Act soll verhindern, dass Menschen über den Ursprung oder die Echtheit bestimmter Inhalte getäuscht werden, weshalb die Transparenzpflichten an konkrete Anwendungsfälle anknüpfen und zwischen den Rollen von Anbietern und Betreibern unterscheiden.
Rechte der betroffenen Personen
Aus Sicht der Verbraucher und Nutzer ergibt sich aus Artikel 50 ein Anspruch auf Information. Wer mit einem KI System kommuniziert, hat das Recht zu erfahren, dass kein Mensch am anderen Ende steht, sofern dies nicht ohnehin offensichtlich ist. Wer synthetische Medieninhalte konsumiert, soll erkennen können, dass diese künstlich erzeugt wurden. Dieses Recht auf Information dient nicht nur dem individuellen Schutz vor Täuschung, sondern auch dem allgemeinen Vertrauen in digitale Kommunikation und öffentliche Debatten. Betroffene Personen können sich bei Verstößen an die jeweils zuständigen nationalen Marktüberwachungsbehörden wenden, die für die Durchsetzung der Verordnung verantwortlich sind.
Ausnahmen von der Kennzeichnungspflicht
Nicht jede KI generierte Ausgabe muss gekennzeichnet werden. Bei offensichtlicher Fiktion entfällt die Kennzeichnungspflicht, etwa wenn ein Bild etwas physikalisch so Unmögliches zeigt, dass eine Täuschung von vornherein ausgeschlossen ist. Auch rein interne Anwendungen innerhalb eines Unternehmens, bei denen kein Kontakt zu externen Personen besteht, fallen häufig nicht unter die strengen Vorgaben. Die Verordnung unterscheidet dabei grundsätzlich zwischen vollständig KI generierten Inhalten, unterstützender Nutzung durch den Menschen und rein internen Anwendungen. Allerdings ist die genaue Abgrenzung in vielen Einzelfällen noch nicht abschließend geklärt, weshalb Unternehmen gut beraten sind, ihre eigenen Prozesse frühzeitig zu prüfen.
Grauzone bei Privatpersonen
Grundsätzlich sieht Artikel 50 der KI-Verordnung eine Ausnahme für Privatpersonen vor. Wer ein KI-System im Rahmen einer ausschließlich persönlichen und nicht beruflichen Tätigkeit nutzt, gilt nach der Definition in Artikel 3 der Verordnung gar nicht erst als Betreiber im rechtlichen Sinne. Die Kennzeichnungspflichten für Betreiber, also die sichtbare Kennzeichnung nach Artikel 50 Absatz 4, greifen dann nicht. Wer also in seiner Freizeit ein Bild mit KI erzeugt oder bearbeitet und auf dem eigenen privaten Profil veröffentlicht, gilt in der Regel nicht als professioneller Anwender und muss keine eigene Kennzeichnung anbringen.
Entscheidend für die Abgrenzung ist nicht, ob Gewinn erzielt wird, sondern ob die Tätigkeit einen beruflichen, gewerblichen oder organisierten Charakter hat. Sobald jemand mit seinen Inhalten regelmäßig Geld verdient, im Rahmen eines Unternehmens, eines Vereins oder einer sonstigen organisierten Tätigkeit handelt, entfällt die private Ausnahme. Auch ein rein ehrenamtlich geführter Verein zählt dabei bereits als organisierte Tätigkeit und nicht mehr als private Nutzung im engeren Sinn.
Weniger eindeutig ist die Rechtslage, wenn private Inhalte über den engen persönlichen Kreis hinaus verbreitet werden, etwa durch eine öffentliche Veröffentlichung auf sozialen Netzwerken. Die Verordnung selbst grenzt diesen Fall nicht abschließend ab. Manche Stimmen in der juristischen Diskussion ziehen einen Vergleich zur Rechtsprechung des Europäischen Gerichtshofs im Datenschutzrecht, wonach eine öffentliche Zugänglichmachung von Inhalten regelmäßig nicht mehr als rein persönliche Nutzung gilt. Besonders dann, wenn ein von einer Privatperson erstelltes Deepfake eine bekannte Person zeigt oder Einfluss auf eine öffentliche oder politische Debatte nehmen könnte, wird in der Praxis empfohlen, den Inhalt trotz der grundsätzlichen Ausnahme als KI erzeugt zu kennzeichnen.
Wichtig ist außerdem, dass die private Ausnahme nur die Betreiberpflichten betrifft. Die technische Kennzeichnungspflicht der Anbieter nach Artikel 50 Absatz 2, also die maschinenlesbare Markierung durch das jeweilige KI System selbst, bleibt davon unberührt und läuft unabhängig davon im Hintergrund weiter.
Zusammengefasst sind Privatpersonen bei einer wirklich privaten und nicht organisierten Nutzung von der sichtbaren Kennzeichnungspflicht befreit, sollten aber bei einer öffentlichen Verbreitung, insbesondere bei realistisch wirkenden Bildern oder Texten über reale Personen oder öffentliche Themen, eine freiwillige Kennzeichnung in Erwägung ziehen. Andere Rechtsgebiete wie das Persönlichkeitsrecht oder das Urheberrecht können ohnehin unabhängig von der KI-Verordnung weiterhin anwendbar sein.
Übergangsregelungen und Fristen
Die Pflichten gelten grundsätzlich seit dem 2. August 2026 ohne weitere Übergangsfrist. Eine vorläufige Einigung zum sogenannten AI Omnibus Paket vom Mai 2026 räumt generativen KI-Systemen, die bereits vor diesem Datum auf dem Markt waren, jedoch eine Frist bis zum 2. Dezember 2026 ein, um die Anforderungen an die maschinenlesbare Kennzeichnung vollständig zu erfüllen. Diese zusätzliche Zeit betrifft ausdrücklich nur die technische Umsetzung der maschinenlesbaren Kennzeichnung und nicht die grundsätzliche Informationspflicht gegenüber Nutzern.
Folgen bei Verstößen
Wer gegen die Transparenzpflichten verstößt, muss mit spürbaren Konsequenzen rechnen. Verstöße gegen die Transparenzpflichten können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher liegt. Für kleinere Unternehmen gelten angepasste Obergrenzen, die dennoch spürbare Summen darstellen können. Die Höhe der Bußgelder verdeutlicht, dass der Gesetzgeber die Transparenzpflichten als eigenständigen und ernst zu nehmenden Teil der KI Regulierung versteht, unabhängig von der Einstufung eines Systems als risikoreich.
Praktische Bedeutung für Unternehmen
Für Unternehmen, die generative KI zur Erstellung von Texten, Bildern oder Sprache nutzen, bedeutet die neue Rechtslage konkreten Handlungsbedarf. Es reicht nicht aus, sich auf die Zusicherung eines Softwareanbieters zu verlassen, dass dessen System die technischen Vorgaben erfüllt. Betreiber müssen selbst prüfen, ob und wie sie ihre Nutzer informieren, etwa durch einen sichtbaren Hinweis bei einem Chatbot oder eine Kennzeichnung bei veröffentlichten synthetischen Bildern. Eine sinnvolle Herangehensweise besteht darin, alle eingesetzten KI-Anwendungen systematisch zu erfassen und für jede einzelne zu klären, ob eine der vier in Artikel 50 genannten Situationen vorliegt.
Wie geht es weiter?
Die Kennzeichnungspflicht nach Artikel 50 der KI-Verordnung stellt keinen pauschalen Zwang dar, jeden KI generierten Text zu markieren. Sie knüpft vielmehr an konkrete Situationen an, in denen Menschen sonst getäuscht werden könnten. Für Unternehmen bedeutet das eine sorgfältige Prüfung der eigenen Prozesse, für Verbraucher ein neues Recht auf Information über den Ursprung von Inhalten und Interaktionen. Die kommenden Monate werden zeigen, wie sich der angekündigte Verhaltenskodex in der Praxis bewährt und welche technischen Standards sich für die maschinenlesbare Kennzeichnung durchsetzen. Fraglich ist, wie sich die Mitspieler außerhalb der europäischen Union verhalten werden. Juristische Auseinandersetzungen, um die Deutungshoheit von KI-Nutzung und deren Kennzeichnung, werden in den Folgejahren sicherlich interessante Perspektiven eröffnen und sicherlich konkrete wirtschaftliche Folgen haben. Man darf weiterhin gespannt sein…