AI Act: Was er für Unternehmen bedeutet, die Chatbots und Sprachagenten einsetzen

Wenn Sie einen Chatbot auf Ihrer Website, einen Assistenten auf WhatsApp oder einen Sprachagenten am Telefon haben, haben Sie vermutlich vom AI Act gehört und sich gefragt, ob er Sie betrifft. Die kurze Antwort: ja – aber für die meisten kleinen Unternehmen sind die Pflichten klar und leicht einzuhalten, wenn das System von Anfang an richtig aufgebaut ist.

In diesem Artikel erfahren Sie, was der AI Act ist, welche Fristen wichtig sind, was ein Unternehmen mit Chatbots und Sprachagenten tun muss, und Sie erhalten eine praktische Checkliste. Das ist keine Rechtsberatung. In besonderen Fällen sprechen Sie mit einem spezialisierten Anwalt.

Was der AI Act ist – kurz erklärt

Der AI Act ist die Verordnung (EU) 2024/1689, das erste umfassende Regelwerk für künstliche Intelligenz auf Ebene der Europäischen Union. Als Verordnung gilt er unmittelbar in allen Mitgliedstaaten, auch in Rumänien, ohne dass ein nationales Gesetz zur Umsetzung nötig ist.

Seine Logik basiert auf dem Risiko. Je stärker ein KI-System die Rechte oder die Sicherheit von Menschen beeinträchtigen kann, desto strenger sind die Regeln:

• Verbotene Praktiken: etwa Manipulation, die einen erheblichen Schaden verursachen kann, das Ausnutzen von Schwächen aufgrund von Alter, Behinderung oder sozialer bzw. wirtschaftlicher Lage, Social Scoring oder Emotionserkennung am Arbeitsplatz und in der Bildung (mit medizinischen oder sicherheitsbezogenen Ausnahmen).
• Hochrisiko-Systeme: etwa solche, die in Recruiting und Personalwesen, in der Bildung oder bei bestimmten wichtigen Entscheidungen über Menschen eingesetzt werden. Für sie gelten strenge Anforderungen an Dokumentation, menschliche Aufsicht und Bewertung.
• Transparenzpflichten: Hierunter fallen Chatbots und Sprachagenten, die mit Menschen sprechen, sowie künstlich erzeugte oder manipulierte Inhalte.
• Der Rest: Viele alltägliche Anwendungen haben nur allgemeine Pflichten, etwa die KI-Kompetenz.

Der Zeitplan: Was gilt ab wann

Der AI Act ist nicht auf einen Schlag in Kraft getreten. Laut Europäischer Kommission sind die wichtigsten Daten:

Die Fristen für Hochrisiko-Systeme wurden durch das Vereinfachungspaket „AI Omnibus“ verschoben, das laut Kommission am 27. Juli 2026 in Kraft getreten ist. Die Transparenzpflichten – die für Chatbots und Sprachagenten am wichtigsten sind – wurden nicht verschoben: Sie gelten ab dem 2. August 2026. Mit anderen Worten: Wenn Sie bereits einen Bot einsetzen, gelten die Regeln jetzt.

Was das für Chatbots und Sprachagenten bedeutet

1. Der Mensch muss wissen, dass er mit einer KI spricht

Artikel 50 des AI Act verlangt, dass KI-Systeme, die direkt mit Menschen interagieren, so gestaltet sind, dass die Personen informiert werden, dass sie mit einem KI-System interagieren. Ausgenommen ist der Fall, dass dies für eine angemessen informierte und aufmerksame Person offensichtlich ist. Die Information muss klar sein und spätestens bei der ersten Interaktion erfolgen.

Verlassen Sie sich in der Praxis nicht auf die Ausnahme. Ein Sprachagent, der natürlich klingt, ist nicht „offensichtlich“ eine KI. Konkret:

• Sprachagent: in den ersten Sekunden des Anrufs ein einfacher Satz wie „Guten Tag, hier ist der virtuelle Assistent der Firma X. Ich helfe Ihnen bei Terminen und Auskünften.“
• Chatbot auf der Website oder WhatsApp: Die erste Nachricht sagt, dass es sich um einen virtuellen Assistenten handelt, und Name und Avatar suggerieren keinen echten Menschen.
• Übergabe an einen Menschen: Wenn das Gespräch an eine Kollegin oder einen Kollegen geht, sagen Sie das klar.

2. Vorsicht bei Stimmen und Bildern, die echte Menschen imitieren

Ebenfalls Artikel 50 verlangt, dass wer KI nutzt, um Deepfake-Bilder, -Audio oder -Video zu erzeugen oder zu manipulieren, offenlegt, dass der Inhalt künstlich erzeugt ist. Wenn der Sprachagent die geklonte Stimme eines Mitarbeiters oder des Inhabers nutzen soll, sprechen Sie zuerst mit einem Juristen und informieren Sie den Zuhörer in jedem Fall klar. Die sicherste Variante für einen Kundenservice-Agenten ist eine synthetische Stimme, die keine bestimmte Person imitiert.

3. Keine Manipulation

Ein Verkaufsbot darf Produkte empfehlen, Upselling betreiben und höflich nachhaken. Was er nicht darf: manipulative oder täuschende Techniken einsetzen, die die Entscheidung des Menschen verzerren und ihm erheblichen Schaden zufügen können, oder Schwächen wie Alter oder eine schwierige wirtschaftliche Lage ausnutzen. Das ist eine verbotene Praxis mit den höchsten Bußgeldern der Verordnung.

4. Ihr Team muss wissen, was es einsetzt

Artikel 4 zur KI-Kompetenz gilt seit Februar 2025 und wurde durch den AI Omnibus neu gefasst. Der Grundgedanke bleibt: Unternehmen, die KI-Systeme einsetzen, sorgen dafür, dass die Menschen, die damit arbeiten, verstehen, was die Systeme tun, wo sie Fehler machen und wann eingegriffen werden muss. Für ein kleines Unternehmen bedeutet das eine kurze, dokumentierte Schulung für diejenigen, die den Bot beaufsichtigen.

Ist Ihr Chatbot ein Hochrisiko-System?

In der Regel fällt ein Chatbot oder Sprachagent, der Fragen beantwortet, Bestellungen aufnimmt und Termine vereinbart, nicht in die Hochrisiko-Kategorie. Das ändert sich, wenn das System wichtige Entscheidungen über Menschen trifft oder maßgeblich beeinflusst, zum Beispiel wenn es:

• Bewerber filtert oder Mitarbeiter bewertet;
• über den Zugang zu Bildung entscheidet oder Schüler bewertet;
• in anderen in Anhang III der Verordnung aufgeführten Bereichen eingesetzt wird.

Wenn Ihr Bot eines davon tut, lassen Sie eine eigene rechtliche Prüfung durchführen. Für diese Systeme ist die Frist nun der 2. Dezember 2027, aber die Vorbereitung braucht Zeit.

Was Sie riskieren, wenn Sie die Regeln nicht einhalten

Für Verstöße gegen die Transparenzpflichten aus Artikel 50 sieht der AI Act Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes vor. Für verbotene Praktiken liegt die Obergrenze bei 35 Millionen Euro oder 7 %. Für KMU gilt laut Verordnung jeweils der niedrigere der beiden Werte. Die Obergrenzen sind Höchstwerte, keine automatischen Strafen – aber sie zeigen, wie ernst das Thema genommen wird.

Wichtiger als das Bußgeld ist das Vertrauen. Ein Kunde, der herausfindet, dass er zehn Minuten mit einem Roboter gesprochen hat, während er dachte, es sei ein Mensch, kommt nicht wieder.

Checkliste für Ihr Unternehmen

1. Listen Sie alle KI-Systeme auf, die Sie nutzen: Chatbot auf der Website, WhatsApp, Sprachagent, KI-Automatisierungen, interne Tools.
2. Prüfen Sie die Begrüßung jedes Bots. Sagt sie klar, dass es ein KI-Assistent ist?
3. Prüfen Sie Stimme und Avatar. Imitieren sie eine reale Person? Falls ja: Haben Sie deren Zustimmung und informieren Sie den Zuhörer klar?
4. Überarbeiten Sie die Anweisungen des Bots. Gibt es etwas, das ihn zu Druck oder Täuschung verleiten könnte?
5. Prüfen Sie, ob ein System Entscheidungen über Menschen trifft (Einstellung, Bewertung, Zugang zu wesentlichen Leistungen).
6. Schulen Sie das Team, das den Bot beaufsichtigt, und dokumentieren Sie die Schulung kurz.
7. Sorgen Sie für einen Weg zum Menschen: Der Kunde kann jederzeit verlangen, mit jemandem aus dem Team zu sprechen.
8. Verknüpfen Sie alles mit der DSGVO: Der AI Act ersetzt die Datenschutzregeln nicht, er kommt zu ihnen hinzu.

Wie wir Agenten unter Berücksichtigung des AI Act bauen

Die Agenten, die wir bauen, laufen auf Claude, dem Modell von Anthropic, und die Daten werden in Supabase auf Servern in der EU gespeichert. Jeder Sprachagent oder WhatsApp-Chatbot stellt sich im ersten Satz als virtueller Assistent vor, hat klare Anweisungen, was er tun darf, und übergibt das Gespräch bei Bedarf an einen Menschen. Mehr dazu, wie wir mit Daten umgehen, finden Sie auf der Seite zur Datensicherheit.

Ein konkretes Beispiel: Eine Konditoreikette in Sibiu nutzt einen Sprachagenten, der rund 20 Anrufe pro Tag auffängt, die früher verlorene Bestellungen waren. Die Kunden wissen ab der ersten Sekunde, dass sie mit einem virtuellen Assistenten sprechen – und das hat sie nicht vom Bestellen abgehalten.

Kurz gesagt

Für ein Unternehmen, das Chatbots und Sprachagenten einsetzt, bedeutet der AI Act vor allem Transparenz: Menschen müssen wissen, dass sie mit einer KI sprechen – ohne Manipulation und ohne Stimmen, die heimlich reale Personen imitieren. Ergänzen Sie eine kurze Schulung des Teams und eine Prüfung, dass der Bot keine wichtigen Entscheidungen über Menschen trifft, und Sie haben das Wesentliche abgedeckt.

Wenn Sie gemeinsam mit uns prüfen möchten, wie es um Ihren Bot steht, oder von Anfang an einen konformen Bot bauen wollen, vereinbaren Sie ein kostenloses 30-minütiges Gespräch.