KI am Telefon: Was Sie Anrufern sagen müssen.

Muss der Anrufer erfahren, dass eine KI mit ihm spricht?

Ja. Die europäische KI-Verordnung verlangt in Art. 50 Abs. 1, dass Menschen erfahren, wenn sie mit einem KI-System sprechen – es sei denn, es ist ohnehin offensichtlich. Am Telefon ist es das nicht: Wer einen Betrieb anruft, rechnet mit einem Menschen. Nach Art. 50 Abs. 5 muss die Information spätestens bei der ersten Interaktion kommen.¹ Praktisch heißt das: in der Begrüßung. Nicht auf Nachfrage, nicht am Ende, nicht im Impressum.

Die Pflicht trifft zuerst den Anbieter des Systems. Fragen Sie deshalb, wie die Ansage lautet und wer sie ändern kann. Unser Assistent nennt sich ab Werk in der Begrüßung einen digitalen Assistenten.

Ist die Pflicht nicht verschoben worden?

Nein. Die Änderungsverordnung zur KI-Verordnung („Digitaler Omnibus“, Verordnung (EU) 2026/1744) hat Pflichten für Hochrisiko-Systeme verschoben, auf Dezember 2027 und August 2028. Die Transparenzpflicht aus Art. 50 blieb, wie sie war.²

Merken Anrufer es – und stört sie das?

Sie merken es, weil der Assistent es sagt. Ob es stört, hängt weniger an der Ansage als daran, was danach passiert: Bekommt der Anrufer seinen Termin, seine Antwort, oder zumindest die Zusage eines Rückrufs? Wer lieber mit einem Menschen spricht, sagt es – dann übergibt der Assistent, mit allem, was bis dahin gesagt wurde.

Darf das Gespräch aufgezeichnet werden?

Wer das nichtöffentlich gesprochene Wort ohne Einwilligung aufnimmt, macht sich nach § 201 StGB strafbar. Ein Assistent, der Gespräche als Ton aufzeichnet, muss das deshalb ansagen und braucht die Einwilligung des Anrufers. Fragen Sie, ob aufgezeichnet wird und ob man es abschalten kann.

Bei uns ist die Tonaufzeichnung ab Werk aus. Schaltet ein Betrieb sie ein, sagt der Assistent es zu Beginn des Gesprächs an.

Braucht es einen Vertrag zur Auftragsverarbeitung?

In aller Regel ja. Der Anbieter verarbeitet Namen, Rufnummern und Anliegen Ihrer Kunden in Ihrem Auftrag – das ist der Fall von Art. 28 DSGVO. Wir schließen ihn mit jedem Kunden, vor dem Start.

Wo werden die Daten verarbeitet?

Hier gehen die Antworten am weitesten auseinander. Ein Assistent am Telefon besteht meist aus mehreren Diensten: Leitung, Spracherkennung, Sprachmodell, Stimme, Speicher. Jeder kann woanders laufen. Fragen Sie nach jedem einzeln – und nach der Liste der Unterauftragsverarbeiter, die zum AVV gehört.

Bei uns: Server in Deutschland, je Kunde getrennt von allen anderen. Das Sprachmodell läuft in der EU. Gespräche werden nicht zum Training von Modellen verwendet. Wie lange Gespräche gespeichert bleiben, stellen Sie selbst ein; Auskunft und Löschung gehen mit einem Klick.

Was Sie einen Anbieter fragen sollten

• Sagt der Assistent zu Beginn jedes Gesprächs, dass er eine KI ist – und wer kann die Ansage ändern?
• Wird aufgezeichnet, und wird dafür eine Einwilligung eingeholt?
• Bekomme ich einen AVV, und wer steht auf der Liste der Unterauftragsverarbeiter?
• Wo laufen Spracherkennung, Sprachmodell und Speicher – jeweils?
• Werden Gespräche zum Training benutzt?
• Wie lange wird gespeichert, und kann ich das einstellen?