KI im Gesundheitswesen: Wichtige Leitlinien für Praxen

Einblicke in die neue KBV-Broschüre zur Regulierung von KI

Künstliche Intelligenz (KI) findet zunehmend Anwendung in der ambulanten Versorgung – sie erleichtert administrative Abläufe und unterstützt bei medizinischen Entscheidungen.

‍
Doch mit diesen Chancen gehen auch neue Verpflichtungen einher.
Die Kassenärztliche Bundesvereinigung (KBV) hat nun eine umfassende Orientierungshilfe veröffentlicht, die aufzeigt, worauf Praxen beim Einsatz von KI achten müssen – insbesondere im Hinblick auf die kommende EU-Verordnung über Künstliche Intelligenz (AI Act), die klare Vorgaben für Anbieter und Anwender von KI-Systemen macht.

‍
Ein Grundsatz bleibt dabei jedoch unverändert: KI soll Behandelnde unterstützen, nicht ersetzen. Hier fassen wir zusammen, was Praxen wissen müssen:

1. Menschliche Aufsicht erforderlich

Auch beim Einsatz von KI bleibt die Verantwortung für die Behandlung stets bei der behandelnden Fachkraft.
KI-Systeme müssen so gestaltet sein, dass eine menschliche Kontrolle jederzeit möglich ist – insbesondere bei Hochrisiko-Anwendungen wie Diagnostik oder Therapieentscheidungen.

‍

‍

2. Rechtliche und technische Anforderungen

Stellen Sie sicher, dass jedes eingesetzte KI-System folgende Kriterien erfüllt:

Die Wahl eines nicht zertifizierten Anbieters birgt erhebliche Risiken:

1. Besitzt eine CE-Kennzeichnung, falls es als Medizinprodukt eingestuft ist (nach Medizinprodukterecht).
2. Erfüllt die Anforderungen des EU AI Act: Hochrisiko-KI-Systeme benötigen eine Konformitätserklärung (gültig ab August 2026 für die meisten Systeme, ab August 2027 für Medizinprodukte).
3. Ist DSGVO-konform: Laut Datenschutzrecht ist dies verpflichtend für alle KI-Systeme, die personenbezogene Daten verarbeiten.

‍

3. Betriebliche Anforderungen

1. KI-Kompetenz: Alle Mitarbeitenden, die mit KI-Systemen arbeiten, müssen im sachgemäßen Umgang geschult sein – einschließlich technischer, rechtlicher und ethischer Aspekte. Ziel ist eine sichere, verantwortungsvolle und informierte Nutzung.
2. Transparenz gegenüber Patient:innen: Patient:innen müssen darüber informiert werden, wenn KI in ihrer Behandlung eingesetzt wird. Eine mündliche Aufklärung ist in der Regel ausreichend.
3. Einwilligung der Patient:innen: Eine ausdrückliche Einwilligung ist erforderlich, wenn KI zur Dokumentation genutzt wird oder wenn es sich um Hochrisiko-Systeme handelt (z. B. für Diagnostik oder Therapieentscheidungen). Eine mündliche Einwilligung genügt, muss jedoch im Praxisverwaltungssystem dokumentiert werden.

‍

4. Besondere Anforderungen bei cloudbasierten KI-Systemen

Wenn Ihr KI-System cloudbasiert ist, beachten Sie bitte:

1. Es muss über eine gültige C5-Zertifizierung verfügen (ab Juli 2025 verpflichtend).
2. Die Datenverarbeitung muss innerhalb der EU, des EWR oder eines anerkannten Drittstaats erfolgen.

‍

Fazit:

Die KBV stellt klar: KI kann die Versorgung verbessern, muss aber verantwortungsvoll eingesetzt werden. Rechtliche Vorgaben, Transparenz gegenüber Patient:innen und Aufsicht durch die Behandelnden sind unverzichtbar.
Beim Bewerten von KI-Lösungen für Ihre Praxis sollten Anbieter folgende Punkte nachweisen können:

‍

1. Gültige regulatorische Zertifizierungen
2. Umfassende Datenschutzmaßnahmen
3. Klare Dokumentation zu Funktionsumfang und Grenzen der Systeme
4. Ausreichende Schulungs- und Supportangebote

Bei VIA HealthTech sind wir stolz darauf, dass unsere Lösungen alle diese Anforderungen bereits erfüllen.
Wir entwickeln sichere und wirkungsvolle Tools, die Fachkräfte im Gesundheitswesen nachhaltig unterstützen und dabei stets den regulatorischen Rahmen im Blick behalten.

‍
Lassen Sie uns gemeinsam die Zukunft der Gesundheitsversorgung verantwortungsvoll gestalten.

‍