Was bedeuetet die EU-KI-Verordnung für den Vertrieb?

Sie ist gekommen, um zu bleiben: künstliche Intelligenz, kurz KI. Jedes fünfte Unternehmen in Deutschland setzt bereits auf KI, so der Digitalverband Bitkom. Tendenz steigend. Das Potenzial ist vielversprechend, schließlich sind KI-Systeme in der Lage, menschliche Fähigkeiten, wie logisches Denken, Lernen und Kreativität, zu imitieren. So können mit entsprechenden Tools Prozesse optimiert und die Effizienz der eigenen Arbeit gesteigert werden. Doch KI braucht Vertrauen. Deshalb gilt nun in der Europäischen Union das erste umfassende KI-Gesetz weltweit. Wir zeigen Ihnen, was die KI-Verordnung (KI-VO bzw. AI Act) für Sie als Maklerin oder Makler bedeutet und was Sie jetzt tun sollten.

Am 1. August 2024 ist die europäische Verordnung über künstliche Intelligenz in Kraft getreten. Das Regelwerk zielt auf eine verantwortungsvolle und sichere Nutzung von KI in der EU ab. Das Vertrauen der Verbraucherinnen und Verbraucher soll gestärkt werden, Grundrechte geschützt und Innovationen gefördert. Ab 2025 treten europaweit schrittweise Bestimmungen in Kraft. Andere Vorschriften, z. B. für Hochrisiko-KI, werden ab 2. August 2026 streng reguliert. Dies betrifft auch Vermittlerinnen und Vermittler, die beruflich KI einsetzen. Beispielsweise, um Anträge zu bearbeiten oder um große Datenmengen zu analysieren, z. B. zur Berechnung von Schadenswahrscheinlichkeiten.

4 Risikostufen der KI-VO

Im KI-Gesetz wird künstliche Intelligenz in vier Risikogruppen eingeteilt. Die jeweiligen Anforderungen an Transparenz und Compliance richten sich je nach Risikograd.

1. Verbotene KI-Praktiken (Art. 5 KI-VO)

Um unsere Grundrechte zu schützen, sind in Art. 5 Verbote definiert. Darunter fallen unter anderem manipulative Systeme sowie KI-Technologien zur sozialen Bewertung (Social Scoring) und zur biometrischen Identifikation. Diese sind bereits seit dem 2. Februar 2025 verboten.

2. Hochrisiko-KI (Art. 6 KI-VO inkl. Anhang I & III)

Dazu gehören KI-Anwendungen, die über ein erhöhtes Schadenspotenzial für Sicherheit, Gesundheit und Grundrechte von Personen verfügen. Beispiele hierfür sind Systeme, die grundlegende Entscheidungen beeinflussen (z. B. Kreditwürdigkeitsprüfung, Risikobewertungen für Prämienhöhe, Schadensbearbeitung). Diese Anwendungen sind ab 2. August 2026 streng reguliert.

Ein Fallbeispiel aus der Vermittlerpraxis: Stellen Sie sich vor, Sie sammeln finanzielle oder verhaltensbezogene Daten von Ihren Kundinnen und Kunden, die für die Beurteilung der Eignung einer Lebensversicherung nicht relevant sind. Sie nutzen diese Informationen jedoch z. B. zur Festlegung der Versicherungsprämie. Das könnte ein unzulässiges Social Scoring darstellen. Sollte dadurch die Kundin bzw. der Kunde unverhältnismäßig oder gar diskriminierend benachteiligt werden, wird es umso brisanter.

3. KI mit begrenztem Risiko (Art. 50 KI-VO)

Bei nicht als Hochrisiko-KI eingestuften Anwendungen gelten Transparenzpflichten. Dazu gehört z. B. der Hinweis, dass ein Chatbot genutzt wird. Auch die Kennzeichnung von Deepfakes fällt darunter. Hier gilt eine Übergangsfrist, ab dem 2. August 2026 ist die Transparenzpflicht verpflichtend.

4. KI mit keinem oder geringem Risiko

Für KI-Anwendungen, die nicht zu den drei genannten Risikostufen zählen, gelten keine besonderen Anforderungen. Sobald es um den generellen Einsatz von KI-Systemen geht, ist laut Art. 4 KI-VO jedoch eine entsprechende KI-Kompetenz unentbehrlich.

Darüber hinaus sind im EU AI Act „KI-Modelle mit allgemeinem Verwendungszweck“ (Art. 51-56 KI-VO) definiert. Darunter fallen LLM (Large Language Models), die auf einem neuronalen Netz basieren, das mithilfe von Deep Learning trainiert wird. Bekannte Beispiele für sogenannte generative KI sind ChatGPT, Copilot oder Gemini. Diese Form der KI kann neue Inhalte – wie Texte, Bilder, Videos – erzeugen und geht somit weit über die reine Analyse oder Klassifizierung bestehender Daten hinaus.

Achtung, auch hier gilt die Transparenzpflicht. Setzen Sie als Vermittlerin oder Vermittler ChatGPT & Co. beruflich ein, müssen Sie Ihre Kundschaft über den Einsatz informieren.

Geht es um die Datenschutz-Grundverordnung (DSGVO), lautet die alles entscheidende Frage: Verarbeitet die KI personenbezogene Daten?

a) Nein, ich nutze KI-Systeme ohne personenbezogene Daten

Unter datenschutzrechtlichen Gesichtspunkten können Sie künstliche Intelligenz ohne Einschränkungen dafür nutzen, um zu recherchieren, Texte zu erstellen (Newsletter, Social Media etc.) oder für Übersetzungen. Entscheidend ist, dass keine personenbezogenen Daten eingegeben werden.

b) Ja, ich nutze KI-Anwendungen mit Personenbezug

Neben der KI-VO sollten Sie die DSGVO beachten. So sind beispielsweise bei der Antragsbearbeitung mit KI Betroffenenrechte zu wahren. Allerdings sei Auskunft, Berechtigungs- oder Löschungsanspruch von personenbezogenen Daten laut AfW – Bundesverband Finanzdienstleistung „ggf. schwer zu erfüllen“.

Nicht vergessen: Alle Datenverarbeitungen, die mithilfe von oder durch KI erfolgen, sollten Sie in das Verarbeitungsverzeichnis aufnehmen.

Und was bedeutet das für Einwilligungserklärungen? Während die DSGVO-konforme Einwilligungserklärung bereits Standard ist, sollte das Thema KI mit zunehmender Nutzung ebenfalls in die Vermittlerbranche integriert werden. Vor allem, um regulatorische Anforderungen zu erfüllen.

Fazit

Die KI-Verordnung ebnet den Weg für einen verantwortungsvollen Einsatz von künstlicher Intelligenz in Europa. Eine zügige Umsetzung der Regulierungsvorschriften kann das Vertrauen Ihrer Kundinnen und Kunden in KI maßgeblich stärken. Die Regulierungen geben Sicherheit. Nutzen Sie künstliche Intelligenz, um Ihre Prozesse zu optimieren. Auch dies kann die Zufriedenheit Ihrer Kundschaft nachhaltig steigern. Dabei ist eine KI-Kompetenz Pflicht – damit auch die Chancen genutzt werden können. Sobald personenbezogene Daten verarbeitet werden, gehen KI-Gesetz und DSGVO Hand in Hand.

1. Tools checken: Wird hier KI bereits genutzt? Falls ja, sind diese KI-VO- und DSGVO-konform?
2. Transparent sein: Sie nutzen KI? Lassen Sie dies Ihre Kundschaft wissen.
3. Wissen erweitern: Bauen Sie eine solide KI-Kompetenz auf, das gilt auch für Ihre Mitarbeitenden.

Die in diesem Artikel bereitgestellten Informationen dienen einer ersten Orientierung und stellen keine rechtsverbindliche Beratung dar.