KI‑Kompass
Kompass

Gesundheit und Pflege

Dokumentation, Terminplanung, Befundvorbereitung: was in Gesundheitseinrichtungen zulässig ist, wo die Medizinprodukteverordnung greift und was verboten bleibt.

·2 Min. Lesezeit·Von Redaktion KI-Kompass·Geprüft von Fachbereich Governance
DETAILGRAD
4 Abschnitte

Worum es geht

VorgangEinordnung
Diktat zur DokumentationVerwaltung, unbedenklich mit Auftragsverarbeitung
Terminorganisation und ErinnerungVerwaltung
Aufklärungsbogen übersetzenVerwaltung, mit fachlicher Prüfung
Abrechnung vorbereitenVerwaltung
Befundbericht strukturierenGrenzfall, abhängig vom Zweck
Diagnose vorschlagenMedizinprodukt, MDR und Hochrisiko
Triage nach DringlichkeitHochrisiko nach Anhang III

Einführung

  1. 01

    Zweck schriftlich abgrenzen

    Was tut das System, und was ausdrücklich nicht? Diese Abgrenzung entscheidet über die gesamte regulatorische Einordnung.

  2. 02

    Bei Verwaltung beginnen

    Diktat, Termine, Abrechnung. Der Nutzen ist unmittelbar und die regulatorische Lage überschaubar.

  3. 03

    Schweigepflicht klären, nicht nur Datenschutz

    Der Anbieter muss zur Verschwiegenheit verpflichtet und belehrt sein. Ein Auftragsverarbeitungsvertrag allein genügt nicht.

  4. 04

    Beschäftigte einbeziehen

    Diktatsysteme erfassen Sprache am Arbeitsplatz. Mitbestimmungsrechte sind berührt.

  • Serverstandort in der EU, keine Übermittlung in Drittländer ohne geprüfte Grundlage.
  • Ausschluss der Nutzung von Eingaben zu Trainingszwecken, vertraglich und technisch.
  • Getrennte Löschfristen für Aufnahme und Transkript.
  • Ein Weg für Patientinnen und Patienten, der Verarbeitung zu widersprechen, ohne Nachteil.

Die drei Regelungskreise

KreisGegenstandAuslöser
MDRSoftware mit medizinischem ZweckZweckbestimmung des Herstellers
AI ActDas KI-SystemHochrisiko nach Anhang I oder III
DSGVO, § 203 StGBDie Daten und die SchweigepflichtPersonenbezug, Berufsgeheimnis

Der AI Act und die MDR greifen ineinander: Ein KI-System, das als Sicherheitsbauteil eines Medizinprodukts der Klasse IIa oder höher eingesetzt wird, gilt nach Anhang I als Hochrisikosystem. Die Konformitätsbewertung erfolgt dann integriert, nicht zweimal.

Rechtsgrundlagen

VerarbeitungGrundlage
Behandlung und DokumentationArt. 9 Abs. 2 lit. h DSGVO mit § 22 BDSG bzw. § 8 DSG
AbrechnungArt. 9 Abs. 2 lit. h, gesetzliche Grundlage
Forschung mit BehandlungsdatenArt. 9 Abs. 2 lit. j, Landeskrankenhausrecht beachten
QualitätssicherungArt. 9 Abs. 2 lit. h, eng auszulegen
EinwilligungArt. 9 Abs. 2 lit. a, im Behandlungsverhältnis heikel

Die Einwilligung ist im Behandlungsverhältnis der schwächste Weg, weil die Freiwilligkeit angreifbar ist. Wo eine gesetzliche Grundlage besteht, wird sie genutzt.

Was verboten bleibt

  • Emotionserkennung am Arbeitsplatz, also auch bei Pflegekräften.
  • Biometrische Kategorisierung nach Gesundheitsmerkmalen.
  • Soziale Bewertung von Patientinnen und Patienten.
  • Systeme, die Behandlungsentscheidungen ohne menschliche Überprüfung treffen, nicht als Verbot des AI Act, sondern aus dem Berufsrecht heraus.

Einstiegsbogen: Gesundheit und Pflege

KOSTENLOSES KONTO

Einstiegsbogen: Gesundheit und Pflege

Die Vorgänge dieser Branche nach Risikoklasse, die Punkte, die vorher geklärt sein müssen, und die Messgrößen, an denen sich der Nutzen zeigt.

Checkliste3 Elemente

Kein Passwort nötig. Wir schicken Ihnen einen Anmeldelink. Ein Konto abonniert keinen Newsletter. Den bestellen Sie separat.

War diese Seite hilfreich?
Gesundheit und Pflege