EU KI-Verordnung:  Anforderungen und Umsetzung für die psychotherapeutische Praxis

Hintergrund

Mit der Verordnung (EU) 2024/1689 – kurz: EU KI-Verordnung oder EU AI Act – hat die EU das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz verabschiedet. Die Verordnung tritt schrittweise in Kraft: Erste Pflichten gelten seit dem 2. Februar 2025, weitere folgen ab August 2026.

Zwei aktuelle Publikationen bieten PsychotherapeutInnen eine gute erste Orientierung:

‍

1. Die BPtK-Praxis-Info „Administrative KI in Ihrer Praxis" (Februar 2026): eine Handreichung der Bundespsychotherapeutenkammer zum verantwortungsvollen Einsatz administrativer KI-Systeme.
2. Das KBV PraxisWissen „Künstliche Intelligenz – Hinweise zum Einsatz in Praxen": ein Leitfaden der Kassenärztlichen Bundesvereinigung mit Checklisten für den KI-Einsatz.

Dieser Beitrag fasst die wesentlichen Anforderungen aus beiden Publikationen zusammen und ordnet ein, wie VIA diese umsetzt.

Was ist administrative KI?

Die BPtK definiert administrative KI als KI-Systeme, die im Rahmen der Praxisorganisation zum Einsatz kommen, aber nicht bei Diagnostik, Indikationsstellung oder Behandlung unterstützen. Beispiele sind:

‍

1. Erstellung von Transkripten von Audioaufnahmen
2. Dokumentation in der Patientenakte
3. Erstellung von Antrags- und Gutachtenentwürfen
4. Terminkoordination und Rechnungsstellung

Solche Systeme sind in der Regel keine Hochrisiko-KI-Systeme im Sinne der KI-Verordnung und unterliegen daher nicht der formalen Konformitätsbewertung nach Art. 47. Entscheidend ist: Die KI darf nur unterstützend eingesetzt werden. Die eigentliche psychotherapeutische Leistung muss von Ihnen persönlich erbracht werden.

Was gilt für Sie als Psychotherapeut:in?

Aus beiden Publikationen und der KI-Verordnung ergeben sich vier zentrale Anforderungen:

1. KI-Kompetenz (Art. 4 KI-Verordnung)

Sie sind verpflichtet, sich vor dem Einsatz eines KI-Systems mit dessen Funktionsweise und Handhabung sorgfältig vertraut zu machen. Alle in der Praxis mit dem System arbeitenden Personen müssen über ausreichende Kenntnisse verfügen. In der Praxis heißt das:

1. Verstehen Sie, dass KI-generierte Inhalte Entwürfe sind und keine fertigen Dokumente.
2. Kennen Sie die Grenzen: KI kann falsche oder unvollständige Inhalte erzeugen.
3. Prüfen Sie jedes Ergebnis eigenverantwortlich, bevor Sie es übernehmen.

2. Transparenz gegenüber PatientInnen

PatientInnen müssen über den Einsatz von KI informiert werden. Die BPtK empfiehlt, Datenschutzhinweise barrierefrei und gut sichtbar in der Praxis und auf der Website bereitzustellen, idealerweise bereits beim Erstkontakt.

3. Datenschutz und Schweigepflicht

Die DSGVO und die psychotherapeutische Schweigepflicht (§ 203 StGB) gelten uneingeschränkt. Vor der Implementierung eines KI-Systems müssen Sie unter anderem sicherstellen:

1. Einwilligung: Bei KI, die „mithört" und Gesundheitsdaten verarbeitet, ist eine informierte Einwilligung der PatientIn immer erforderlich.
2. AVV: Prüfung der Auftragsverarbeitungsvereinbarung (Art. 28 DSGVO) auf DSGVO-Konformität.
3. Datenverarbeitung: Ausschließlich in der EU/im EWR oder in zugelassenen Drittstaaten.
4. Vertragliche Schweigepflicht: Der Anbieter muss Ihnen die Wahrung der ärztlichen Schweigepflicht vertraglich zusichern. Achten Sie darauf, dass dies explizit im Vertrag geregelt ist.

4. C5-Testat für Cloud-Dienste (§ 393 SGB V)

Nutzt ein KI-System Cloud-Dienste – und das tun die meisten –, muss der Anbieter ein aktuelles BSI C5 Typ 2 Testat vorweisen können. Nicht nur die genutzten Server, sondern der Anbieter selbst muss vollständig C5 Typ 2 testiert sein. Ohne dieses Testat ist die Cloud-Verarbeitung von Patientendaten nicht rechtskonform (§393 SGB V) und die ärztliche Schweigepflicht könnte gefährdet sein.

Die BPtK betont ausdrücklich: PsychotherapeutInnen sollten auf das Vorliegen eines gültigen, aktuellen C5-Testats achten. Die Rechtsgrundlage dafür ist § 393 SGB V.

Wie VIA diese Anforderungen umsetzt

VIA HealthTech verfolgt den Ansatz, dass KI in der Psychotherapie am besten funktioniert, wenn zwei Voraussetzungen erfüllt sind: (1) ein sehr strenges, für die Psychotherapie konzipiertes Datenschutz- und Informationssicherheitskonzept und (2) KI als untergeordnete Assistenz für die behandelnde Person.

VIA unterstützt PsychotherapeutInnen bei der Erstellung von Sitzungsnotizen und psychologischen Berichten. Jeder generierte Entwurf muss von der TherapeutIn geprüft, bearbeitet und freigegeben werden. Features werden explizit dafür entwickelt, zum Beispiel die Zitat-Funktion, die aus dem Transkript überprüfbare, nachvollziehbare Quellenangaben liefert, sodass Sie wichtige Aussagen im Protokoll direkt am Originalwortlaut verifizieren können.

KI-Kompetenz

Bevor NutzerInnen einen Zugang zu VIA erhalten, ist die Teilnahme an einem Webinar notwendig. Die Webinare beinhalten eine ausführlichen Schulung zu Produktfunktionalitäten, Datenschutz, rechtlichen Voraussetzungen und einer Fragerunde. Damit stellen wir sicher, dass jede TherapeutIn versteht, wie VIA funktioniert, was die datenschutzrechtlichen Verpflichtungen der TherapeutInnen sind und wie mit KI-generierten Entwürfen umzugehen ist. Ergänzend finden sich in VIA Einführungsvideos zu den verschiedenen Themen und wir bieten regelmäßige Weiterbildungen und offene Sprechstunden an.

Transparenz

Um TherapeutInnen die Aufklärung ihrer Patient:innen zu erleichtern, stellt VIA fertige Vorlagen bereit: Patientenhandouts, Einverständniserklärungen und Datenschutzinformationen. Diese Vorlagen finden sich direkt in VIAs Produkt integriert.

Datenschutz & Informationssicherheit

VIA HealthTech selbst – das gesamte Softwaresystem, Unternehmen und Infrastruktur – ist BSI C5 Typ 2 testiert mit uneingeschränktem Prüfungsurteil und zusätzlich nach ISO/IEC 27001:2022 zertifiziert. Darüber hinaus sichert VIA die Wahrung der ärztlichen Schweigepflicht vertraglich zu. Alle Daten werden ausschließlich in der EU verarbeitet und nie zum Training von KI-Modellen genutzt. Eine Auftragsverarbeitungsvereinbarung (AVV) nach Art. 28 DSGVO, Datenschutzerklärung und Nutzungsbedingungen der Software werden jeder NutzerIn bereitgestellt und müssen bei Registrierung akzeptiert werden.

Wie VIA diese Anforderungen umsetzt

VIA ist kein Hochrisiko-KI-System. Eine formale Konformitätserklärung ist daher gesetzlich nicht vorgeschrieben. Im Sinne der Transparenz hat VIA HealthTech dennoch eine freiwillige Erklärung zur Konformität mit der EU KI-Verordnung veröffentlicht.

‍