KI hört während der Sprechstunde mit und erstellt einen Entwurf für die Dokumentation. Ein Chatbot beantwortet Fragen zur Terminbuchung. Eine Software markiert Auffälligkeiten in medizinischen Aufnahmen. Solche Anwendungen können Praxisteams entlasten. Sie werfen aber auch Fragen auf: Müssen Patienten über den KI-Einsatz informiert werden? Wer kontrolliert die Ergebnisse? Und welche Verantwortung trägt die Praxis?
Seit dem 2. August 2026 gelten weitere Vorschriften des europäischen AI Act. Besonders relevant sind neue Transparenzpflichten. Nicht alle Vorgaben für medizinische KI treten jedoch gleichzeitig in Kraft. Wir ordnen ein, was Arztpraxen jetzt wissen und prüfen sollten.
Was regelt der EU AI Act?
Der AI Act, auf Deutsch auch KI-Verordnung genannt, schafft einheitliche Regeln für künstliche Intelligenz in der Europäischen Union. Die Verordnung unterscheidet KI-Systeme nach ihrem möglichen Risiko.
Viele alltägliche Anwendungen fallen in die Kategorie mit geringem oder minimalem Risiko. Dazu können beispielsweise Rechtschreibkorrekturen oder einfache Assistenzfunktionen gehören. Für Systeme, die Gesundheit, Sicherheit oder grundlegende Rechte erheblich beeinflussen können, gelten strengere Anforderungen.
Medizinische KI kann als Hochrisiko-System eingestuft werden. Das gilt insbesondere, wenn sie Bestandteil eines Medizinprodukts ist und Ergebnisse liefert, die für Diagnose oder Therapie relevant sind. Allerdings wurden die Fristen für einen Teil dieser Vorgaben verlängert:
- Die Regeln für bestimmte Hochrisiko-Anwendungen nach Anhang III gelten ab dem 2. Dezember 2027.
- Für Hochrisiko-KI, die in regulierte Produkte wie Medizinprodukte eingebettet ist, ist derzeit der 2. August 2028 vorgesehen.
Seit dem 2. August 2026 gelten also nicht automatisch sämtliche Anforderungen an medizinische Hochrisiko-KI. Die jetzt wirksamen Transparenzregeln können für Praxen dennoch unmittelbar relevant sein.
Wann müssen Patienten über den KI-Einsatz informiert werden?
Kommuniziert ein Patient direkt mit einem KI-System, muss grundsätzlich erkennbar sein, dass es sich nicht um einen Menschen handelt. Das kann beispielsweise folgende Anwendungen betreffen:
- einen Chatbot auf der Praxiswebsite,
- einen KI-gestützten Telefonassistenten,
- ein automatisiertes Dialogsystem zur Terminvereinbarung,
- einen digitalen Assistenten, der vor dem Termin Angaben zur Anamnese abfragt.
Der Hinweis sollte verständlich und rechtzeitig erfolgen. Patienten müssen erkennen können, dass sie mit einem technischen System interagieren, bevor sie längere Angaben machen oder Gesundheitsdaten übermitteln.
Eine mögliche Formulierung lautet:
„Sie kommunizieren mit unserem digitalen KI-Assistenten. Ihre Angaben werden zur Bearbeitung Ihrer Anfrage verarbeitet. Bei medizinischen Fragen wenden Sie sich bitte direkt an unser Praxisteam.“
Der konkrete Hinweis muss zur jeweiligen Anwendung und zur tatsächlichen Datenverarbeitung passen. Ein allgemeiner Satz im Impressum dürfte dafür häufig nicht ausreichen.
Muss jeder KI-unterstützte Arztbrief gekennzeichnet werden?
Eine pauschale Kennzeichnung jedes Arztbriefs, der mithilfe einer KI vorbereitet wurde, lässt sich aus den Transparenzpflichten nicht ableiten.
In vielen Praxen erstellt eine KI beispielsweise aus dem Gespräch einen Dokumentationsentwurf. Die Ärztin oder der Arzt prüft, ergänzt und verantwortet anschließend den fertigen Inhalt. In diesem Fall bleibt der Arztbrief eine ärztliche Dokumentation. Entscheidend ist, dass die KI-Ausgabe nicht ungeprüft übernommen wird.
Anders ist die Lage, wenn ein KI-System direkt mit Patienten kommuniziert oder eigenständig Inhalte ausgibt, die als menschliche Kommunikation erscheinen könnten. Dann kann eine transparente Information erforderlich sein.
Die medizinische Verantwortung bleibt beim Menschen
KI kann Informationen strukturieren, Texte vorbereiten oder Auffälligkeiten markieren. Sie übernimmt jedoch nicht die ärztliche Verantwortung.
Das ist besonders wichtig, weil generative KI überzeugend formulierte, aber sachlich falsche Inhalte erzeugen kann. In der Praxis könnten dadurch beispielsweise entstehen:
- eine unzutreffende Dosierungsangabe,
- eine nicht erwähnte Vorerkrankung,
- eine falsch zugeordnete Diagnose,
- eine missverständliche Zusammenfassung des Patientengesprächs,
- ein scheinbar plausibler, aber nicht vorhandener Befund.
Deshalb müssen medizinisch relevante KI-Ergebnisse fachlich geprüft werden. Je stärker das Ergebnis eine Diagnose oder Behandlung beeinflusst, desto wichtiger sind eine klar geregelte menschliche Kontrolle und eine nachvollziehbare Dokumentation.
Bei medizinischer KI ist außerdem zu prüfen, ob die Anwendung als Medizinprodukt zugelassen sein muss. Die Bundesärztekammer weist darauf hin, dass entsprechende Systeme nur innerhalb des vom Hersteller vorgesehenen Anwendungsbereichs eingesetzt werden dürfen. Eine allgemeine KI-Anwendung wird nicht allein dadurch zu einem geeigneten medizinischen Werkzeug, dass sie plausible Antworten erzeugt.
Datenschutz gilt unabhängig vom AI Act
Der AI Act ersetzt weder die Datenschutz-Grundverordnung noch die ärztliche Schweigepflicht. Gesundheitsdaten gehören zu den besonders geschützten personenbezogenen Daten.
Bevor eine Praxis Patientendaten in einer KI-Anwendung verarbeitet, sollte deshalb geklärt sein:
- Welche Daten werden übertragen?
- Wo werden die Daten gespeichert und verarbeitet?
- Nutzt der Anbieter Eingaben zum Training eigener Modelle?
- Gibt es einen Vertrag zur Auftragsverarbeitung?
- Werden Daten an weitere Dienstleister oder in Drittländer übermittelt?
- Wie lange bleiben Eingaben und erzeugte Inhalte gespeichert?
- Können unberechtigte Personen auf Gesprächsaufzeichnungen zugreifen?
Patientendaten sollten nicht über private Konten oder frei verfügbare KI-Dienste verarbeitet werden, deren Datenschutzbedingungen für den medizinischen Einsatz ungeeignet sind.
Auch eine Einwilligung löst nicht jedes Problem. Die Praxis bleibt dafür verantwortlich, nur geeignete Systeme einzusetzen und die Verarbeitung auf das erforderliche Maß zu beschränken.
Fünf Schritte für den KI-Check in Ihrer Praxis
Ein vollständiges juristisches Prüfverfahren ist nicht für jede einfache Assistenzfunktion erforderlich. Trotzdem sollte der KI-Einsatz geplant und dokumentiert werden.
1. Eingesetzte Systeme erfassen
Erstellen Sie eine Übersicht aller Anwendungen mit KI-Funktionen. Denken Sie dabei nicht nur an medizinische Software. Auch Telefonie, Terminverwaltung, Website, Textverarbeitung oder Spracherkennung können KI enthalten.
2. Zweck und Datenverarbeitung klären
Halten Sie fest, wofür das System eingesetzt wird und welche Daten es verarbeitet. Eine Hilfe zur Formulierung allgemeiner Praxistexte ist anders zu bewerten als eine Anwendung, die Patientengespräche aufzeichnet.
3. Anbieterinformationen prüfen
Lassen Sie sich Datenschutz, Speicherort, Löschfristen, vorgesehene Verwendung und vorhandene Zertifizierungen nachvollziehbar erläutern. Bei medizinischen Anwendungen sollten Sie besonders auf den zugelassenen Verwendungszweck achten.
4. Zuständigkeiten festlegen
Bestimmen Sie, wer KI-Ausgaben kontrolliert und wie bei Fehlern vorzugehen ist. Mitarbeitende sollten wissen, welche Systeme sie verwenden dürfen und welche Daten dort nicht eingegeben werden dürfen.
5. Patienten transparent informieren
Prüfen Sie, ob Patienten direkt mit einer KI interagieren. Ist das der Fall, sollte der Hinweis verständlich, gut sichtbar und vor Beginn der Interaktion erfolgen.
KI sinnvoll einsetzen, statt sie ungeprüft laufen zu lassen
Der AI Act verbietet den Einsatz von KI in Arztpraxen nicht. Er verlangt vor allem einen bewussten und nachvollziehbaren Umgang mit der Technik.
Richtig eingesetzt kann KI administrative Aufgaben erleichtern. Ein Dokumentationsassistent kann Entwürfe vorbereiten. Ein Telefonassistent kann wiederkehrende Anliegen aufnehmen. Eine Software kann Informationen schneller auffindbar machen. Der Nutzen entsteht jedoch nur, wenn die Anwendung zuverlässig in die Praxisabläufe eingebunden ist und Datenschutz, Zuständigkeiten und Kontrolle geklärt sind.
Gerade bei neuen Funktionen lohnt es sich, nicht nur auf den versprochenen Zeitgewinn zu schauen. Entscheidend ist, ob die Lösung zur vorhandenen Praxissoftware, zum Team und zu den tatsächlichen Arbeitsabläufen passt.
Sie planen den Einsatz von KI in Ihrer Praxis?
Delfs unterstützt Sie dabei, digitale Lösungen sinnvoll in Ihre Praxis-IT einzuordnen. Gemeinsam prüfen wir, welche Anwendungen zu Ihren Abläufen passen, welche technischen Voraussetzungen erforderlich sind und worauf Sie bei der Einführung achten sollten.
Sprechen Sie uns an, bevor aus einer praktischen KI-Funktion ein neues Datenschutz- oder Organisationsproblem wird.
Hinweis: Dieser Beitrag bietet eine allgemeine Orientierung und ersetzt keine rechtliche oder datenschutzrechtliche Beratung.
