Was ist die KI-Verordnung (EU AI Act)?
Die KI-Verordnung ist die Verordnung (EU) 2024/1689 vom 13. Juni 2024. Auf Englisch heißt sie „AI Act“. Sie wurde am 12. Juli 2024 im Amtsblatt der EU veröffentlicht und ist am 1. August 2024 in Kraft getreten. Als EU-Verordnung gilt sie unmittelbar in jedem Mitgliedstaat, ein deutsches Umsetzungsgesetz für die Pflichten selbst braucht es nicht.
Der Grundsatz: Je größer das Risiko einer Anwendung für Gesundheit, Sicherheit und Grundrechte, desto strenger die Pflichten. Die meisten Anwendungen in kleinen Betrieben liegen am unteren Ende dieser Skala.
Seit dem Sommer 2026 hat sich einiges bewegt. Mit der Verordnung (EU) 2026/1744, dem sogenannten Digital Omnibus zur KI, wurden Fristen verschoben und einzelne Pflichten geändert. In Deutschland ist seit dem 29. Juli 2026 das Durchführungsgesetz in Kraft, das die Aufsicht regelt. Beides ordnen wir unten ein.
Gilt die KI-Verordnung für Ihr Unternehmen?
Ja, sobald Sie KI beruflich nutzen. Die Verordnung unterscheidet vor allem zwei Rollen, und von der Rolle hängt ab, welche Pflichten Sie treffen.
Betreiber: Sie nutzen ein KI-System
Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen und nicht beruflichen Tätigkeit (Art. 3 Nr. 4). Das trifft auf fast jeden Betrieb zu, der einen KI-Chat, eine Übersetzungshilfe oder eine Belegerkennung im Alltag nutzt. Wer KI nur privat nutzt, fällt nicht darunter (Art. 2 Abs. 10).
Anbieter: Sie lassen ein KI-System für sich bauen
Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt, entgeltlich oder unentgeltlich (Art. 3 Nr. 3). Lassen Sie also einen Chat für Ihre Website oder einen Telefonassistenten speziell für Ihren Betrieb entwickeln, können Sie selbst Anbieter sein. Klären Sie dann die Pflichten aus Art. 50 von Anfang an mit dem Entwickler.
Eine Besonderheit gilt für Hochrisiko-Systeme: Wer ein solches System unter eigenem Namen anbietet, wesentlich verändert oder seinen Zweck so ändert, dass es hochriskant wird, gilt selbst als Anbieter und übernimmt dessen Pflichten (Art. 25 Abs. 1).
Die vier Risikoklassen der KI-Verordnung
Die Verordnung ordnet KI-Systeme nach ihrem Einsatzzweck ein, nicht nach der Technik dahinter. Dieselbe Software kann je nach Verwendung in einer anderen Klasse landen. Die Tabelle zeigt die vier Stufen mit typischen Beispielen.
| Risikoklasse | Beispiele | Folge | Fundstelle |
|---|---|---|---|
| Unannehmbares Risiko | Social Scoring, manipulative Techniken, Emotionserkennung am Arbeitsplatz | verboten seit 2. Februar 2025 | Art. 5 |
| Hohes Risiko | Bewerberauswahl, Kreditwürdigkeitsprüfung, Sicherheitsbauteile in Produkten | strenge Pflichten ab 2. Dezember 2027 bzw. 2. August 2028 | Art. 6, Anhang I und III |
| Transparenzrisiko | Chatbots, Telefonassistenten, KI-erzeugte Bilder, Deepfakes | Offenlegungs- und Kennzeichnungspflichten seit 2. August 2026 | Art. 50 |
| Minimales Risiko | Spamfilter, Texthilfen, Rechtschreibprüfung | keine besonderen Pflichten, KI-Kompetenz gilt trotzdem | Art. 4 |
Laut EU-Kommission fällt die große Mehrheit der heute in der EU genutzten KI-Systeme in die unterste Klasse. Für eine erste eigene Einordnung bietet die Bundesnetzagentur online den kostenlosen „KI-Compliance Kompass“ an. Er gibt Orientierung, ist aber keine verbindliche Bewertung.
Verbotene KI-Praktiken seit Februar 2025
Seit dem 2. Februar 2025 sind bestimmte Anwendungen in der EU verboten (Art. 5 Abs. 1, Art. 113). Dazu gehören:
- KI, die Menschen unterschwellig oder absichtlich täuschend beeinflusst und ihnen dadurch schadet,
- KI, die die Schutzbedürftigkeit von Menschen wegen Alter, Behinderung oder sozialer Lage ausnutzt,
- Social Scoring, also die Bewertung von Menschen nach ihrem Verhalten mit nachteiligen Folgen,
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen,
- biometrische Kategorisierung, um auf politische Einstellung oder Religion zu schließen.
Mit dem Digital Omnibus kommt ein weiteres Verbot hinzu: KI-Systeme, die ohne Einwilligung intime oder sexuell eindeutige Darstellungen einer erkennbaren Person erzeugen, sowie Systeme, die Darstellungen sexuellen Kindesmissbrauchs erzeugen. Dieses Verbot gilt ab dem 2. Dezember 2026 (Art. 5 Abs. 1 Buchst. ba und bb).
Für die meisten Betriebe ist das kein Thema. Ein Punkt verdient aber Aufmerksamkeit: Software, die die Stimmung oder Gefühle von Mitarbeitern auswertet, etwa am Telefon im Kundendienst, kann unter das Verbot der Emotionserkennung am Arbeitsplatz fallen (Art. 5 Abs. 1 Buchst. f). Fragen Sie bei solchen Funktionen nach.
KI-Kompetenz nach Artikel 4: Gibt es eine Schulungspflicht?
Seit dem 2. Februar 2025 gilt Art. 4 zur KI-Kompetenz. Er betrifft jeden Anbieter und jeden Betreiber, also auch den kleinen Betrieb, der einen KI-Chat nutzt. Der Digital Omnibus hat den Artikel neu gefasst. Seit dem 27. Juli 2026 lautet die Pflicht: Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen arbeiten. Zu berücksichtigen sind Vorkenntnisse, Erfahrung, Ausbildung und der Einsatzzweck.
Neu ist der Zusatz: Ein bestimmtes Niveau an KI-Kompetenz müssen Sie für niemanden garantieren. Vorher hieß es, Sie müssten „nach besten Kräften sicherstellen“, dass Ihr Personal über ein „ausreichendes Maß“ an KI-Kompetenz verfügt.
Eine Schulungspflicht im Sinne eines vorgeschriebenen Kurses mit Zertifikat gibt es also nicht. Die Bundesnetzagentur schreibt dazu: Die Verordnung gibt keine standardisierten Trainings vor, verlangt keine Zertifizierung, die Maßnahmen können intern oder extern stattfinden, und sie sollten dokumentiert werden. Auch die EU-Kommission sagt in ihren Fragen und Antworten, dass kein Zertifikat nötig ist und eine interne Aufzeichnung genügt.
Praktisch heißt das: Erklären Sie Ihrem Team, welche KI-Programme im Betrieb erlaubt sind, wofür sie gut sind und wo ihre Grenzen liegen. Dazu gehört: KI-Antworten können falsch sein, und Kundendaten gehören nicht ungeprüft in ein beliebiges Programm. Wie man gute Anweisungen formuliert, zeigt unser Beitrag zu KI-Prompts für den Arbeitsalltag. Halten Sie fest, wer wann eingewiesen wurde. Für Betreiber von Hochrisiko-Systemen gilt zusätzlich: Die menschliche Aufsicht müssen Personen übernehmen, die über die nötige Kompetenz, Ausbildung und Befugnis verfügen (Art. 26 Abs. 2).
Transparenz- und Kennzeichnungspflicht nach Artikel 50
Für viele Betriebe ist Art. 50 der wichtigste Artikel. Er gilt seit dem 2. August 2026 und regelt vier Fälle.
Chatbots und Telefonassistenten
KI-Systeme, die direkt mit Menschen sprechen oder schreiben, müssen so gebaut sein, dass die Menschen erfahren, dass sie mit einer KI zu tun haben, außer das ist aus den Umständen offensichtlich (Art. 50 Abs. 1). Diese Pflicht trifft den Anbieter. Die Information muss spätestens bei der ersten Interaktion klar und eindeutig erfolgen (Art. 50 Abs. 5). Beim Telefon heißt das: gleich in der Begrüßung. Unsere KI-Telefonassistenten sagen das zu Beginn jedes Gesprächs.
KI-erzeugte Inhalte maschinenlesbar markieren
Anbieter von Systemen, die Texte, Bilder, Ton oder Video erzeugen, müssen die Ergebnisse maschinenlesbar als künstlich erzeugt kennzeichnen (Art. 50 Abs. 2). Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt dafür eine Übergangsfrist bis zum 2. Dezember 2026 (Art. 111 Abs. 4). Diese Pflicht betrifft die Hersteller der Programme, nicht den Betrieb, der sie nutzt.
Deepfakes und Texte zu öffentlichen Themen
Als Betreiber müssen Sie offenlegen, wenn Sie Bild-, Ton- oder Videoinhalte veröffentlichen, die ein Deepfake sind (Art. 50 Abs. 4). Ein Deepfake ist ein KI-Inhalt, der echten Personen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde (Art. 3 Nr. 60). Ein KI-Bild, das Ihre echte Werkstatt oder einen echten Mitarbeiter in einer Szene zeigt, die es so nie gab, kann darunterfallen. Für KI-Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, gilt ebenfalls eine Offenlegungspflicht, außer ein Mensch hat sie geprüft und trägt die redaktionelle Verantwortung.
Emotionserkennung und biometrische Kategorisierung
Wer solche Systeme betreibt, muss die betroffenen Menschen darüber informieren (Art. 50 Abs. 3). Im Alltag kleiner Betriebe kommt das kaum vor.
Die EU-Kommission hat Leitlinien zu Art. 50 mit Beispielen veröffentlicht; ergänzend gibt es einen Verhaltenskodex zur Kennzeichnung KI-erzeugter Inhalte. Wir kennzeichnen KI-Bilder auch dort, wo es nicht zwingend wäre, wie in diesem Artikel. Das erspart die Einzelfallprüfung.
LeistungKI-TelefonassistentNimmt Anrufe an, wenn alle auf der Baustelle sind, erfasst das Anliegen und sagt zu Beginn jedes Gesprächs, dass er eine KI ist.KI-Modelle mit allgemeinem Verwendungszweck: Was gilt seit August 2025?
Große Sprachmodelle, wie sie hinter den bekannten KI-Chats stehen, nennt die Verordnung „KI-Modelle mit allgemeinem Verwendungszweck“, kurz GPAI. Seit dem 2. August 2025 gelten für ihre Anbieter eigene Pflichten (Art. 53, Art. 113). Dazu gehören eine technische Dokumentation, Informationen für Unternehmen, die das Modell einbauen, eine Strategie zum Urheberrecht und eine Zusammenfassung der Trainingsinhalte.
Modelle, die vor dem 2. August 2025 auf den Markt kamen, haben bis zum 2. August 2027 Zeit (Art. 111 Abs. 3). Zuständig für die Aufsicht über diese Modelle ist das KI-Büro der EU-Kommission. Die Kommission hat dazu einen Verhaltenskodex veröffentlicht, auf den sich Anbieter stützen können (Art. 53 Abs. 4).
Wer ein solches Modell nur über ein fertiges Programm nutzt, ist nicht dessen Anbieter. Für Ihren Betrieb bleiben die Pflichten als Betreiber des Programms: KI-Kompetenz und, je nach Einsatz, Transparenz. Für frei und quelloffen bereitgestellte KI-Systeme gilt die Verordnung grundsätzlich nicht, außer sie sind hochriskant, verboten oder fallen unter Art. 50 (Art. 2 Abs. 12).
Hochrisiko-KI: Pflichten und neue Fristen
Hochriskant sind zum einen KI-Systeme, die Sicherheitsbauteil eines Produkts sind, das unter EU-Produktrecht fällt, etwa bei Maschinen, Aufzügen oder Spielzeug (Art. 6 Abs. 1, Anhang I). Zum anderen die Bereiche aus Anhang III: Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalmanagement, Zugang zu grundlegenden Diensten wie Kredit und bestimmten Versicherungen, Strafverfolgung, Migration sowie Justiz und demokratische Prozesse.
Für kleine Betriebe ist vor allem der Bereich Beschäftigung relevant. Hochriskant ist etwa KI, die Bewerbungen sichtet, filtert oder Bewerber bewertet, oder die über Beförderungen, Kündigungen und die Zuweisung von Aufgaben anhand persönlicher Merkmale mitentscheidet (Anhang III Nr. 4). Ein System aus Anhang III gilt ausnahmsweise nicht als hochriskant, wenn es kein erhebliches Risiko birgt und das Ergebnis einer Entscheidung nicht wesentlich beeinflusst (Art. 6 Abs. 3).
Was Betreiber von Hochrisiko-Systemen tun müssen
Die meisten Pflichten treffen die Anbieter. Als Betreiber müssen Sie nach Art. 26 vor allem das System nach der Betriebsanleitung verwenden, die menschliche Aufsicht kompetenten Personen übertragen, auf passende Eingabedaten achten, den Betrieb überwachen, automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren und Beschäftigte vor dem Einsatz am Arbeitsplatz informieren.
Ab wann das gilt
Nach dem Digital Omnibus gelten die Hochrisiko-Pflichten für Systeme aus Anhang III ab dem 2. Dezember 2027 und für Systeme in Produkten nach Anhang I ab dem 2. August 2028 (Art. 113 Abs. 3 Buchst. c). Ursprünglich waren der 2. August 2026 und der 2. August 2027 vorgesehen. Wer heute ein Werkzeug für die Bewerberauswahl einführt, sollte trotzdem schon fragen, wie der Anbieter die künftigen Pflichten erfüllt.
Fristen der KI-Verordnung und was der Digital Omnibus geändert hat
Die Verordnung gilt gestaffelt. Die Zeitleiste zeigt die Termine nach heutigem Stand, einschließlich der Änderungen durch die Verordnung (EU) 2026/1744.
Die KI-Verordnung tritt in Kraft (Art. 113).
Verbote nach Art. 5 und KI-Kompetenz nach Art. 4 gelten.
Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Regeln zur Aufsicht und zu Sanktionen gelten.
Der Digital Omnibus zur KI tritt in Kraft, am 29. Juli folgt das deutsche Durchführungsgesetz.
Die Verordnung gilt allgemein, darunter die Transparenzpflichten nach Art. 50. Die nationalen Behörden beaufsichtigen nun auch die KI-Kompetenz.
Heutiger Stand dieses Artikels.
Neues Verbot sexualisierter Deepfakes gilt. Ende der Übergangsfrist für die maschinenlesbare Kennzeichnung bei älteren Systemen.
Frist für ältere KI-Modelle mit allgemeinem Verwendungszweck. Spätester Termin für das nationale KI-Reallabor.
Hochrisiko-Pflichten für Systeme nach Anhang III.
Hochrisiko-Pflichten für Systeme in Produkten nach Anhang I.
Beschlossen oder nur vorgeschlagen?
Die EU-Kommission hat den Digital Omnibus am 19. November 2025 vorgeschlagen. Am 7. Mai 2026 einigten sich Parlament und Rat politisch, die Verordnung (EU) 2026/1744 vom 8. Juli 2026 steht seit dem 24. Juli 2026 im Amtsblatt. In mehreren Punkten weicht das Ergebnis vom Vorschlag ab. Wer im Winter 2025 Berichte über den Vorschlag gelesen hat, sollte das kennen:
Vorschlag der Kommission (November 2025)
- KI-Kompetenz sollte keine Pflicht der Unternehmen mehr sein, sondern eine Förderaufgabe von Kommission und Mitgliedstaaten.
- Hochrisiko-Pflichten sollten erst sechs bzw. zwölf Monate nach einem Kommissionsbeschluss über verfügbare Normen gelten, spätestens am 2. Dezember 2027 bzw. 2. August 2028.
- Für die maschinenlesbare Kennzeichnung älterer Systeme war eine Übergangszeit von sechs Monaten vorgesehen.
Beschlossene Fassung (Juli 2026)
- KI-Kompetenz bleibt Pflicht der Anbieter und Betreiber, aber als Unterstützungspflicht ohne garantiertes Niveau (Art. 4).
- Feste Termine: 2. Dezember 2027 für Anhang III, 2. August 2028 für Anhang I (Art. 113).
- Feste Übergangsfrist bis 2. Dezember 2026 (Art. 111 Abs. 4).
Maßgeblich ist allein der Text im Amtsblatt. Bloß diskutierte Änderungen berücksichtigt dieser Artikel nicht.
Aufsicht in Deutschland, Strafen und Erleichterungen für KMU
Bundesnetzagentur und KI-MIG
Das Gesetz zur Durchführung der Verordnung über künstliche Intelligenz vom 22. Juli 2026 (BGBl. 2026 I Nr. 223) ist am 29. Juli 2026 in Kraft getreten. Kern ist das KI-Marktüberwachungs- und Innovationsförderungsgesetz, kurz KI-MIG. Danach ist die Bundesnetzagentur grundsätzlich die zuständige Marktüberwachungsbehörde (§ 2 Abs. 1 KI-MIG) und zugleich zentrale Anlaufstelle (§ 6). Bei KI in Produkten wie Maschinen oder Medizinprodukten übernehmen die dafür bereits zuständigen Fachbehörden auch diese Aufsicht (§ 2 Abs. 2). Die Bundesnetzagentur soll außerdem Informationen und Anleitungen gerade für kleine und mittlere Unternehmen bereitstellen und Schulungen anbieten (§ 12) und mindestens ein KI-Reallabor betreiben (§ 13). Ihr KI-Service Desk unterstützt Unternehmen bei der Umsetzung.
Strafen nach Artikel 99
Die Geldbußen staffeln sich nach der Schwere des Verstoßes (Art. 99):
- verbotene Praktiken nach Art. 5: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes,
- Verstöße unter anderem gegen Betreiberpflichten nach Art. 26 und Transparenzpflichten nach Art. 50: bis zu 15 Millionen Euro oder 3 %,
- falsche oder unvollständige Auskünfte an Behörden: bis zu 7,5 Millionen Euro oder 1 %.
Bei großen Unternehmen gilt der höhere der beiden Beträge. Bei KMU einschließlich Start-ups gilt der niedrigere (Art. 99 Abs. 6), seit dem Omnibus auch bei kleinen Midcap-Unternehmen (Art. 99 Abs. 6a). Die Mitgliedstaaten müssen bei Sanktionen die Interessen von KMU und ihr wirtschaftliches Überleben berücksichtigen (Art. 99 Abs. 1). Das KI-MIG ergänzt eigene Bußgelder bis 50.000 Euro für einzelne Verstöße, etwa wenn ein Betreiber eines Hochrisiko-Systems nicht dafür sorgt, dass Betroffene die vorgeschriebene Erläuterung einer Entscheidung erhalten (§ 15 KI-MIG).
Erleichterungen für KMU
Die Verordnung sieht für kleine und mittlere Unternehmen mehrere Hilfen vor (Art. 62). KMU erhalten vorrangigen Zugang zu KI-Reallaboren, in denen neue KI-Systeme vor dem Markteintritt unter Aufsicht erprobt werden. Die Mitgliedstaaten müssen Informations-, Schulungs- und Beratungsangebote für KMU schaffen, Gebühren für Konformitätsbewertungen richten sich nach der Unternehmensgröße. Bieten KMU selbst ein Hochrisiko-System an, dürfen sie Teile des Qualitätsmanagements vereinfacht umsetzen (Art. 63). Das nationale KI-Reallabor muss nach dem Omnibus bis zum 2. August 2027 einsatzbereit sein (Art. 57 Abs. 1).
Checkliste: KI-Verordnung im kleinen Betrieb umsetzen
Für die meisten kleinen Betriebe ist die KI-Verordnung keine Großbaustelle, sondern eine Liste mit wenigen Punkten. Diese sechs Schritte schaffen einen soliden Stand:
- Bestand aufnehmenSchreiben Sie auf, welche KI-Programme im Betrieb genutzt werden: Chat, Übersetzer, Texthilfe, Belegerkennung, Telefon, Website-Chat. Fragen Sie auch im Team nach.
- Rolle klärenNutzen Sie ein fertiges Programm (Betreiber) oder haben Sie ein System für sich entwickeln lassen und betreiben es unter eigenem Namen (möglicherweise Anbieter)? Klären Sie das bei Eigenentwicklungen schriftlich mit dem Entwickler.
- Risiko einordnenPrüfen Sie jede Anwendung gegen die verbotenen Praktiken und gegen Anhang III. Genau hinsehen bei Personalthemen wie der Bewerberauswahl.
- Team einweisen und festhaltenKurze Einweisung zu erlaubten Programmen, Grenzen der KI und Umgang mit Kundendaten. Datum und Teilnehmer notieren. Das erfüllt den Kern von Art. 4.
- Transparenz herstellenChat und Telefonassistent sagen zu Beginn, dass sie eine KI sind. KI-Bilder, die echt wirken, kennzeichnen Sie. Prüfen Sie veröffentlichte KI-Texte selbst, bevor sie online gehen.
- Daten und Verträge prüfenDie KI-Verordnung ersetzt nicht die DSGVO. Klären Sie, welche Daten an welchen Dienst gehen, wo sie verarbeitet werden und ob ein Vertrag zur Auftragsverarbeitung vorliegt.
Wiederholen Sie die Bestandsaufnahme einmal im Jahr oder wenn ein neues Programm dazukommt. Wo KI Abläufe übernehmen soll, etwa bei E-Mails, Angeboten oder Rechnungen, lohnt es sich, Kontrolle von Anfang an einzuplanen. Bei unseren KI-Agenten gibt ein Mensch folgenreiche Schritte frei, bevor etwas nach außen geht. Welche Aufgaben sich für den Einstieg eignen, zeigt unsere Seite zur KI-Automatisierung für kleine und mittlere Unternehmen, und wo KI im Betrieb wirklich Zeit spart, erklärt der Beitrag Effizienzsteigerung durch KI.
LeistungKI-Agenten mit Ihrer FreigabeDer Agent übernimmt die Vorarbeit bei Anrufen, E-Mails und Angeboten. Folgenreiche Schritte geben Sie selbst frei.„Für die meisten kleinen Betriebe ist die KI-Verordnung keine Großbaustelle, sondern eine Liste mit wenigen Punkten.“
Bernd Grimm aus diesem ArtikelHäufige Fragen
Ja. Sie gilt für alle, die KI-Systeme beruflich einsetzen oder anbieten, unabhängig von der Größe. Für die meisten Anwendungen kleiner Betriebe bleiben aber nur wenige Pflichten: KI-Kompetenz im Team und, wo Kunden mit einer KI zu tun haben, Transparenz. Das ist keine Rechtsberatung; im Zweifel lohnt eine fachliche Prüfung.
Einen vorgeschriebenen Kurs mit Zertifikat gibt es nicht. Artikel 4 verlangt, dass Sie Maßnahmen ergreifen, um die KI-Kompetenz Ihres Personals zu unterstützen, passend zu Vorkenntnissen und Einsatz. Eine interne Einweisung, die Sie mit Datum und Teilnehmern festhalten, ist ein guter Weg.
Die Verordnung (EU) 2026/1744 ist seit dem 27. Juli 2026 in Kraft. Sie verschiebt die Hochrisiko-Pflichten auf den 2. Dezember 2027 bzw. den 2. August 2028, fasst die Pflicht zur KI-Kompetenz neu und ergänzt ein Verbot für KI, die ohne Einwilligung intime Darstellungen erzeugt. Für kleine Midcap-Unternehmen gelten zusätzliche Erleichterungen.
Bilder, Ton oder Videos, die echt wirken und fälschlich als echt erscheinen würden, also Deepfakes, müssen Sie als künstlich erzeugt offenlegen. KI-Texte zu Themen von öffentlichem Interesse ebenfalls, außer ein Mensch hat sie geprüft und trägt die Verantwortung. Die maschinenlesbare Markierung ist Sache der Hersteller der KI-Programme.
Ja, außer es ist aus den Umständen offensichtlich. Nach Artikel 50 müssen Menschen spätestens bei der ersten Interaktion erfahren, dass sie mit einer KI sprechen. Am Telefon geschieht das am besten gleich in der Begrüßung.
Nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), in Kraft seit dem 29. Juli 2026, ist grundsätzlich die Bundesnetzagentur zuständig. Für KI in Produkten wie Maschinen bleiben die bisherigen Fachbehörden zuständig. Für große KI-Modelle ist das KI-Büro der EU-Kommission verantwortlich.
Je nach Verstoß bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Millionen Euro oder 3 % etwa bei Verstößen gegen Transparenzpflichten. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere Betrag, und die Behörden müssen ihr wirtschaftliches Überleben berücksichtigen.
Den amtlichen Text veröffentlicht die EU auf EUR-Lex, dort als Verordnung (EU) 2024/1689. Die Änderungen durch den Digital Omnibus stehen in der Verordnung (EU) 2026/1744. Das deutsche Durchführungsgesetz finden Sie im Bundesgesetzblatt 2026 I Nr. 223.
Quellen
- EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung) (öffnet in neuem Tab)
- EUR-Lex: Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI) (öffnet in neuem Tab)
- EUR-Lex: Vorschlag der Kommission COM(2025) 836 vom 19.11.2025 (öffnet in neuem Tab)
- Europäische Kommission: Rechtsrahmen für KI und Zeitplan (öffnet in neuem Tab)
- Europäische Kommission: Fragen und Antworten zur KI-Kompetenz (englisch) (öffnet in neuem Tab)
- Europäische Kommission: Leitlinien zu den Transparenzpflichten nach Art. 50 (englisch) (öffnet in neuem Tab)
- Europäische Kommission: Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck (englisch) (öffnet in neuem Tab)
- Bundesgesetzblatt 2026 I Nr. 223: Gesetz zur Durchführung der Verordnung über künstliche Intelligenz (öffnet in neuem Tab)
- Deutscher Bundestag: Drucksache 21/4594, Gesetzentwurf der Bundesregierung (öffnet in neuem Tab)
- Deutscher Bundestag: Drucksache 21/6407, Beschlussempfehlung und Bericht (öffnet in neuem Tab)
- Bundesnetzagentur: KI-Verordnung und KI-Service Desk (öffnet in neuem Tab)
- Bundesnetzagentur: KI-Kompetenz (öffnet in neuem Tab)
- Bundesnetzagentur: KI-Reallabore (öffnet in neuem Tab)
- Bundesnetzagentur: KI-Compliance Kompass (öffnet in neuem Tab)

