EU AI Act für kleine Unternehmen: was wirklich für Sie gilt
Für einen Betrieb, der einen KI-Telefonassistenten einsetzt, bleibt vom EU AI Act im Alltag wenig: Die Pflicht, Anrufer über die KI zu informieren (Art. 50 Abs. 1, seit 02.08.2026), trifft den Anbieter des Assistenten. Sie als Betreiber fördern die KI-Kompetenz Ihres Teams (Art. 4). Die schweren Pflichtenpakete gelten für Hochrisiko-Systeme; die Anrufannahme steht nicht auf deren Liste.
Dieser Artikel ist eine Orientierung, kein Rechtsrat. Für den Einzelfall gehört das Thema zu Ihrer Rechts- oder Datenschutzberatung.
Entwarnung mit Substanz — nicht mit Achselzucken
Um den AI Act ranken sich zwei gleich falsche Erzählungen: „Betrifft nur Konzerne, ignorieren" und „Bürokratiemonster, das jeden Betrieb erdrückt". Beides stimmt nicht. Die KI-Verordnung (VO (EU) 2024/1689) ist nach Risiko gestuft. Bestimmte Praktiken sind verboten, etwa manipulative Techniken (Art. 5). Hochrisiko-Systeme tragen das große Pflichtenpaket, etwa KI, die Bewerbungen filtert oder die Kreditwürdigkeit von Menschen bewertet (Anhang III Nr. 4 und 5). Für Systeme, die direkt mit Menschen interagieren, gilt eine Transparenzpflicht (Art. 50 Abs. 1) — dorthin gehört ein Telefonassistent. Und für alle KI-Systeme müssen Anbieter und Betreiber Maßnahmen ergreifen, die die KI-Kompetenz fördern (Art. 4).
Dieser Artikel gibt den Stand vom 15.11.2026 wieder. Eingerechnet sind die Änderungen durch den Digital-Omnibus zur KI (VO (EU) 2026/1744, in Kraft seit 27.07.2026) und die Leitlinien der EU-Kommission zu Art. 50 vom 05.11.2026.
Anbieter- und Betreiberpflichten: wer was schultert
Der AI Act unterscheidet den Anbieter eines KI-Systems — wer es entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3) — vom Betreiber, der es in eigener Verantwortung verwendet (Art. 3 Nr. 4, englisch „deployer"). Setzen Sie einen Telefonassistenten ein, sind Sie Betreiber; wer den Assistenten herstellt und unter eigenem Namen anbietet, ist Anbieter. Bei scoco.ai steht diese Rollenverteilung auch in den AGB (§ 7 Abs. 2).
Solange der Assistent kein Hochrisiko-System ist, folgt daraus:
- Den Anbieter trifft die Offenlegungspflicht: Er muss das System so konzipieren, dass Anrufer erfahren, dass sie mit einer KI sprechen (Art. 50 Abs. 1).
- Anbieter und Betreiber trifft Art. 4: Maßnahmen, die die KI-Kompetenz der Menschen fördern, die in ihrem Auftrag mit dem System arbeiten.
- Nicht für Sie gelten die Betreiberpflichten aus Art. 26, etwa Verwendung nach Betriebsanleitung, menschliche Aufsicht und das Aufbewahren von Protokollen. Sie betreffen nur Hochrisiko-Systeme.
Art. 4 hat der Digital-Omnibus abgeschwächt. Bis zum 26.07.2026 verlangte er Maßnahmen, um „nach besten Kräften sicherzustellen", dass das Personal über „ein ausreichendes Maß an KI-Kompetenz" verfügt. Seit dem 27.07.2026 verlangt er Maßnahmen, die die Entwicklung der KI-Kompetenz unterstützen, ausdrücklich ohne Pflicht, bei einzelnen Personen ein bestimmtes Niveau zu garantieren. Ein Zertifikat ist nach den Fragen und Antworten der EU-Kommission dafür nicht nötig, eine eigene Organisationsstruktur wie ein „KI-Beauftragter" auch nicht. Zur Dokumentation nennt die Kommission eine interne Aufzeichnung über Schulungen und Anleitungen. Wie viel angemessen ist, hängt von Ihrem Team und dem Einsatz ab; nur die Gebrauchsanleitung lesen zu lassen, kann nach der Kommission in vielen Fällen unwirksam sein.
Art. 50: die Pflicht des Anbieters — und Ihr Teil daran
Art. 50 gilt seit dem 2. August 2026 (Art. 113). Der Digital-Omnibus hat die Offenlegungspflicht aus Abs. 1 nicht verschoben. Aufgeschoben hat er nur die maschinenlesbare Kennzeichnung KI-erzeugter Inhalte nach Abs. 2, für Systeme, die schon vorher auf dem Markt waren, bis zum 2. Dezember 2026 (Art. 111 Abs. 4; Leitlinien Rn. 153). Abs. 1 richtet sich an den Anbieter: Er muss das System so konzipieren und entwickeln, dass Menschen erfahren, dass sie mit einem KI-System interagieren — es sei denn, das ist für eine angemessen informierte, aufmerksame und verständige Person offensichtlich. Die Information muss spätestens bei der ersten Interaktion kommen, klar und eindeutig (Abs. 5).
Was das am Telefon heißt, beschreiben die Leitlinien der Kommission (C(2026) 7702, nicht verbindlich). Einen vorgeschriebenen Wortlaut gibt es nicht (Rn. 34). Für Telefon und Sprache nennen sie als Beispiel einen ausdrücklichen Satz zu Beginn, etwa „Dies ist ein KI-gestützter Assistent" (Rn. 37). Ein einzelner deutlicher Hinweis vor der ersten Interaktion dürfte nach ihnen in den meisten Fällen genügen. In riskanteren Situationen, etwa bei Gesundheits-, Rechts- oder Finanzfragen, bei Beschwerden oder mit schutzbedürftigen Anrufern, halten sie regelmäßige Erinnerungen für wahrscheinlich nötig; und fragt jemand nach, muss das System sagen, dass es eine KI ist (Rn. 40). Nicht genügen sollen mehrdeutige Hinweise wie der bloße Verweis auf einen „Assistenten" und Hinweise, die nur in AGB oder Dokumentation stehen (Rn. 38).
Ihr Teil als Betreiber ist praktisch: einen Anbieter wählen, der die Offenlegung einbaut, und sie nicht aushebeln. Wo Sie die Begrüßung selbst formulieren, entscheiden Sie mit, wie deutlich der Hinweis ausfällt. Bei scoco.ai können Sie den KI-Hinweis in der Begrüßung umformulieren, aber nicht entfernen. scoco prüft beim Speichern, dass eine anerkannte Formulierung in den ersten 80 Zeichen endet, und vor jedem Anruf, dass sie enthalten ist; die AGB verbieten, den Hinweis zu umgehen (§ 7 Abs. 3). Die Prüfung nimmt auch Formulierungen ohne das Wort „KI" an, etwa „digitaler Assistent" oder „Sprachassistent" (die ganze Liste steht in der Hilfe). Mit Blick auf Rn. 38 ist eine Formulierung, die „KI" oder „künstliche Intelligenz" ausdrücklich nennt, die eindeutigere Wahl, etwa „Hier ist die KI-Assistentin von …". Mehr dazu im Artikel „Muss die KI sagen, dass sie eine KI ist?".
Was Sie als Betrieb konkret tun sollten
Die Liste für den typischen Fall ist kurz:
- Ansage prüfen: Rufen Sie einmal selbst an. Sagt die Begrüßung gleich zu Beginn ausdrücklich, dass eine KI spricht?
- Beim Anbieter nachfragen: Ist die Offenlegung fest eingebaut, oder lässt sie sich abschalten? Wiederholt der Assistent sie, wenn er die Sprache wechselt? Lassen Sie sich die Antworten schriftlich geben.
- Team einweisen (Art. 4): Wer mit Transkripten und Zusammenfassungen arbeitet, sollte wissen, was das System kann und was nicht — etwa, dass KI-Ausgaben falsch sein können. Halten Sie fest, wer wann eingewiesen wurde.
- DSGVO parallel erledigen: Der AI Act ersetzt keine Datenschutzpflicht; nach den Leitlinien berührt Art. 50 die Informationspflichten des Datenschutzrechts nicht (Rn. 52). Auftragsverarbeitungsvertrag (Art. 28 DSGVO), Information der Anrufer (Art. 13 DSGVO) und Löschfristen laufen daneben weiter. Anrufer zu informieren, bleibt Ihre Aufgabe; eine unverbindliche Formulierungshilfe für Ihre Datenschutzerklärung finden Sie in der Hilfe unter „Anrufende informieren".
Das ist überschaubar, kein Großprojekt.
Ehrlich: wo Sie genauer hinschauen müssen
Drei Konstellationen verdienen mehr als diesen Artikel. Erstens: Wer KI über die Anrufannahme hinaus einsetzt, etwa zur Auswahl von Bewerbern oder zur Bewertung der Kreditwürdigkeit, kann in die Hochrisiko-Kategorie fallen. Für die Bereiche aus Anhang III gelten deren Pflichten nach dem Digital-Omnibus ab dem 2. Dezember 2027 (Art. 113). Auch der Assistent selbst gehört geprüft, wenn er mehr tut, als Anliegen aufzunehmen: Anhang III nennt unter anderem Systeme, die Notrufe bewerten, und Systeme für die Triage von Patienten in der Notfallversorgung (Nr. 5 Buchst. d). Ob ein Assistent, der Anrufe nach Dringlichkeit an Menschen weitergibt, davon erfasst sein kann, ist nicht entschieden — klären Sie das im Einzelfall mit Ihrer Rechtsberatung. Bei scoco.ai ist ein Einsatz in Hochrisiko-Anwendungsfällen nach den AGB nur nach vorheriger Abstimmung zulässig (§ 7 Abs. 6).
Zweitens: Wer ein KI-System entwickeln lässt und unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, ist selbst Anbieter (Art. 3 Nr. 3). Wer ein bestehendes System verändert und unter eigenem Namen in Betrieb nimmt, wird nach den Leitlinien zum Anbieter des neuen Systems (Rn. 11). Für den normalen Nutzer eines Telefonassistenten ist das fern, für Wiederverkäufer nicht.
Drittens: Die Aufsichts- und Sanktionspraxis zum AI Act ist jung. Die Leitlinien der Kommission sind nicht verbindlich; verbindlich auslegen kann die Verordnung nur der Gerichtshof der EU (Rn. 5), und die Kommission will die Leitlinien anhand der Praxis überarbeiten (Rn. 155). Wer nah an einer Grauzone arbeitet, sollte das mit Rechtsberatung klären statt mit Blogartikeln — auch mit diesem.
Häufige Fragen
Ist ein KI-Telefonassistent ein Hochrisiko-System?
Anhang III der KI-Verordnung zählt die Hochrisiko-Bereiche auf, darunter Personalauswahl, Kreditwürdigkeit, die Bewertung von Notrufen und die Triage von Patienten in der Notfallversorgung. Die Anrufannahme eines Betriebs — Anliegen aufnehmen, Termine buchen, Rückrufe organisieren — steht nicht darin. Wird ein Assistent für einen Zweck aus dieser Liste eingesetzt, gelten deren Pflichten, für Anhang III ab dem 02.12.2027; das gehört im Einzelfall rechtlich geprüft.
Brauche ich als kleines Unternehmen einen „KI-Beauftragten" oder eine Zertifizierung?
Nein. Nach den Fragen und Antworten der EU-Kommission zu Art. 4 sind für die KI-Kompetenz weder ein Zertifikat noch eine bestimmte Organisationsstruktur wie ein KI-Beauftragter vorgeschrieben; zur Dokumentation nennt die Kommission eine interne Aufzeichnung über Schulungen. Verlangt sind Maßnahmen, die die KI-Kompetenz Ihres Teams fördern (Art. 4 in der Fassung des Digital-Omnibus). Eine Konformitätsbewertung betrifft nur Hochrisiko-Systeme (Art. 43).
Was droht, wenn die KI-Offenlegung fehlt?
Für Verstöße gegen die Transparenzpflichten aus Art. 50 sieht Art. 99 Abs. 4 Buchst. g Geldbußen bis 15 Mio. Euro oder, bei Unternehmen, bis 3 % des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist; bei KMU gilt der niedrigere (Abs. 6). Die Sanktionsregeln im Einzelnen legen die Mitgliedstaaten fest (Abs. 1). Adressat der Offenlegungspflicht aus Art. 50 Abs. 1 ist der Anbieter. Ob eine fehlende Offenlegung daneben lauterkeitsrechtlich angreifbar ist (§§ 5, 5a UWG), hängt vom Einzelfall ab; das Verbraucherschutzrecht gilt nach den Leitlinien der Kommission neben Art. 50 (Rn. 50).
Gilt der AI Act zusätzlich zur DSGVO oder statt ihrer?
Zusätzlich. Der AI Act regelt das KI-System, die DSGVO die personenbezogenen Daten; nach den Leitlinien der Kommission berührt Art. 50 die datenschutzrechtlichen Informationspflichten nicht (Rn. 52). Für den Telefonassistenten heißt das: KI-Hinweis in der Begrüßung nach Art. 50, daneben Auftragsverarbeitungsvertrag (Art. 28 DSGVO), Information der Anrufer (Art. 13 DSGVO) und Löschfristen.
Stand & Quellen
Stand: 15.11.2026.
- Kein Rechtsrat
- EU-KI-Verordnung (VO (EU) 2024/1689): Art. 3 Nr. 3 und 4, Art. 4, Art. 5, Art. 26, Art. 43, Art. 50 Abs. 1 und 5, Art. 99 Abs. 1, 4 Buchst. g und 6, Art. 111 Abs. 4, Art. 113, Anhang III Nr. 4, 5
- Digital-Omnibus zur KI: VO (EU) 2026/1744 vom 08.07.2026, ABl. L vom 24.07.2026, in Kraft seit 27.07.2026 (Art. 4 neu gefasst; Hochrisiko nach Anhang III ab 02.12.2027; Art. 50 Abs. 1 unverändert, Übergang nur für Abs. 2 bis 02.12.2026)
- Europäische Kommission: Leitlinien zur Umsetzung der Transparenzpflichten nach Art. 50 KI-Verordnung, C(2026) 7702 final vom 05.11.2026 (nicht verbindlich; Rn. 5, 11, 34, 37, 38, 40, 50, 52, 153, 155)
- Europäische Kommission: AI Literacy – Questions & Answers, Stand 20.10.2026 (kein Zertifikat, keine vorgeschriebene Governance-Struktur, interne Aufzeichnung)
- DSGVO (VO (EU) 2016/679) Art. 13 und 28
- §§ 5, 5a UWG
- Produktangaben zu scoco.ai: Stand 15.11.2026 (AGB § 7 Abs. 2, 3 und 6; Hilfe „Die Begrüßung ändern")