Artikel 4 der EU-KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen bereits seit Februar 2025, Maßnahmen zur Förderung der KI-Kompetenz zu ergreifen. Seit August 2026 gelten zudem die Regeln zur Aufsicht und Durchsetzung. Für Einrichtungen im Gesundheits- und Sozialwesen, die KI-Systeme einsetzen, bedeutet das: Mitarbeitende, die mit diesen Systemen arbeiten, müssen dabei unterstützt werden, sie angemessen und sicher einzusetzen. Konkrete Maßnahmen schreibt die Verordnung nicht vor. Sie stellt auch klar, dass kein bestimmtes Niveau an KI-Kompetenz garantiert werden muss.
Die Maßnahmen sollen zum tatsächlichen KI-Einsatz, zu den damit verbundenen Risiken sowie zu Vorwissen, Erfahrung und Aufgaben der Mitarbeitenden passen. KI-Kompetenz-Schulungen können dabei ein zentraler Baustein sein, wenn sie auf die konkreten Einsatzbedingungen und Anforderungen der jeweiligen Einrichtung abgestimmt sind.
KI-Einsatz erfassen und Kompetenzbedarf bestimmen
Verantwortliche sollten zunächst klären:
- Welche KI-Systeme werden genutzt?
- Für welche Aufgaben werden sie eingesetzt?
- Wer arbeitet mit KI-Systemen?
Der Kompetenzbedarf unterscheidet sich je nach Anwendung: Wer KI für allgemeine Text- oder Rechercheaufgaben nutzt, braucht andere Kenntnisse als Mitarbeitende, die damit sensible Falldaten verarbeiten oder KI zur Dokumentation, Hilfeplanung oder Befundunterstützung einsetzen.
Auch das Vorwissen und die möglichen Folgen des KI-Einsatzes unterscheiden sich: Manche Mitarbeitende nutzen KI erstmals für einfache Textaufgaben, andere erledigen bereits regelmäßig mit KI-gestützten Anwendungen anspruchsvolle Aufgaben. Ebenso reicht die Spannweite der Auswirkungen von einer fehlerhaften internen Formulierungen bis zu unzutreffenden Einschätzungen, die Versorgung, Betreuung oder Beratung von Menschen beeinflussen kann.
Aus diesen Faktoren lässt sich ableiten, welche Kenntnisse und Fähigkeiten Mitarbeitende für ihren jeweiligen Einsatz von KI benötigen.
Welche KI-Kompetenzen im Gesundheits- und Sozialwesen besonders wichtig sind
Im Gesundheits- und Sozialwesen fallen besonders viele sensible Informationen an: Gesundheitsdaten, Sozialdaten und andere personenbezogene oder vertrauliche Angaben. Gleichzeitig können Fehler beim Einsatz von KI besonders schwerwiegende Folgen haben, wenn sie Versorgung, Betreuung oder Beratung beeinflussen. Mitarbeitende müssen deshalb erkennen können, wann Daten besonders schutzbedürftig sind und wann Fehler einer KI-Anwendung besonders folgenreich sein können.
Daraus müssen sie das richtige Verhalten ableiten: nur freigegebene Systeme für die vorgesehenen Zwecke nutzen, Eingaben auf die tatsächlich erforderlichen Informationen beschränken und bei Unsicherheiten Rücksprache halten.
Ebenso wichtig ist der kritische Umgang mit den Ergebnissen. KI kann falsche, unvollständige oder erfundene Inhalte erzeugen. KI-Ausgaben, die beruflich weiterverwendet werden, müssen deshalb fachlich geprüft werden.
Mitarbeitende sollten außerdem erkennen, wenn sie einer plausibel klingenden KI-Ausgabe zu stark vertrauen (Automation Bias) oder wenn KI für bestimmte Personengruppen wiederholt weniger passende oder zuverlässige Ergebnisse liefert. Sie sollten wissen, dass solche Auffälligkeiten kritisch geprüft und gegebenenfalls über die vorgesehenen internen Wege gemeldet werden müssen.
KI-Kompetenz-Schulungen in ein Gesamtkonzept einbetten
KI-Kompetenz-Schulungen können grundlegendes Wissen vermitteln, für typische Risiken sensibilisieren und den sicheren Umgang mit KI im Arbeitsalltag unterstützen. Damit das Gelernte praktisch anwendbar ist, sollten die Schulungsinhalte mit den konkreten Regeln und Abläufen der Einrichtung verbunden werden.
Mitarbeitende sollten dadurch zum Beispiel praxisrelevante Fragen beantworten können: Darf ich diese KI-Anwendung für einen Übergabebericht oder eine Hilfeplanung nutzen? Darf ich Diagnosen, den Hilfebedarf oder andere Falldaten eingeben? An wen wende ich mich, wenn ich unsicher bin?
Ergänzend zu Schulungen können anwendungsbezogene Unterweisungen für bestimmte KI-Systeme, praxisnahe Übungen und Fallbeispiele, kompakte Arbeitshilfen sowie Auffrischungen bei neuen Anwendungen oder veränderten Vorgaben sinnvoll sein. Für Mitarbeitende mit besonderer Verantwortung können vertiefende Angebote hinzukommen. So entsteht ein abgestufter Qualifizierungsansatz, der zur Einrichtung passt und mit ihrem KI-Einsatz weiterentwickelt werden kann.
Maßnahmen dokumentieren und weiterentwickeln
Auch die Umsetzung selbst sollte nachvollziehbar sein. Einrichtungen können zum Beispiel festhalten, welche Schulungen und weiteren Qualifizierungsmaßnahmen angeboten wurden, für welche Mitarbeitenden sie vorgesehen waren und welche Inhalte sie abdeckten.
Ein bestimmtes Zertifikat schreibt Artikel 4 dafür nicht vor. Eine solche Dokumentation hilft jedoch, den eigenen Ansatz nachvollziehbar zu machen und bei neuen KI-Systemen, veränderten Einsatzbereichen oder neuen Risiken gezielt weiterzuentwickeln.
Zum Beispiel könnten im Laufe der Zeit weitere KI-Systeme für die Dokumentation eingeführt werden, neue Mitarbeitende mit unterschiedlichem Vorwissen dazukommen, sich bei der Nutzung Unsicherheiten zu bestimmten Datenarten zeigen oder bestimmte Fehler wiederholt auftreten.
Auch Rückmeldungen aus Teams, häufige Rückfragen oder gemeldete Auffälligkeiten können zeigen, dass Schulungsinhalte angepasst oder zusätzliche Qualifizierungsmaßnahmen eingeplant werden sollten.
Ebenso können neue interne Vorgaben oder veränderte rechtliche Anforderungen eine Weiterentwicklung erforderlich machen.
Spielraum bei der Umsetzung gezielt nutzen und passgenaue Maßnahmen planen
Die Offenheit von Artikel 4 bezüglich der Maßnahmen zur Förderung der KI-Kompetenz ermöglicht es, diese an den eigenen Strukturen, am tatsächlichen Einsatz von KI und an den Erfahrungen aus der Praxis auszurichten. Entscheidend ist, dass die Maßnahmen auf dem Vorwissen der Mitarbeitenden aufbauen, zum konkreten KI-Einsatz passen und tatsächlich vorhandene Risiken adressieren.
Das kann in der Praxis sehr unterschiedlich aussehen: In manchen Einrichtungen kann eine einheitliche Basisschulung für viele Mitarbeitende sinnvoll sein, ergänzt durch kurze anwendungsbezogene Unterweisungen für einzelne Teams. Andere Einrichtungen benötigen stärker differenzierte Angebote, etwa vertiefende Schulungen für Beschäftigte mit besonderen Aufgaben oder zusätzliche Arbeitshilfen für bestimmte KI-Systeme. Auch Umfang, Wiederholung und Aktualisierung der Maßnahmen können je nach Einsatz und Erfahrung unterschiedlich ausfallen.
Welche Maßnahmen sinnvoll sind, kann sich daher von Einrichtung zu Einrichtung und sogar zwischen verschiedenen Arbeitsbereichen deutlich unterscheiden.
KI-Kompetenz in bestehende Strukturen integrieren
Für die Umsetzung müssen Einrichtungen nicht bei null anfangen. Viele Voraussetzungen bestehen bereits: Einarbeitungsprozesse, Fortbildungsplanung, Datenschutz- und Informationssicherheitsvorgaben, Qualitätsmanagement oder Verfahren zur Einführung neuer Software. Maßnahmen zur KI-Kompetenz können an solche Strukturen anknüpfen.
So lässt sich etwa bei der Einführung eines neuen KI-Systems festlegen, welche Mitarbeitenden vor der Nutzung geschult werden, welche zusätzlichen Unterweisungen für bestimmte Aufgaben erforderlich sind und welche Informationen in die Einarbeitung neuer Beschäftigter gehören.
Auch bestehende Fortbildungs- oder Qualitätsprozesse können genutzt werden, um Erfahrungen aus der Anwendung aufzunehmen und Qualifizierungsmaßnahmen bei Bedarf anzupassen. Dadurch wird KI-Kompetenz nicht als separate Zusatzaufgabe behandelt, sondern in vorhandene Abläufe der Einrichtung eingebunden.
Fazit: Wie Verantwortliche Artikel 4 konkret umsetzen können
Für Einrichtungen ergibt sich aus Artikel 4 der EU-KI-Verordnung eine überschaubare Folge von Entscheidungen: Sie sollten klären, wo und wie KI eingesetzt wird, welche Risiken damit verbunden sind und welches Wissen Mitarbeitende dafür benötigen. Darauf aufbauend können sie passende Schulungen und ergänzende Maßnahmen auswählen, diese in bestehende Strukturen einbinden und regelmäßig überprüfen, ob sie noch zum tatsächlichen KI-Einsatz passen. So lässt sich der Spielraum von Artikel 4 nutzen, um KI-Kompetenz praxisnah und passend zur eigenen Einrichtung aufzubauen.
KI-Kompetenz mit E-Learning von Relias aufbauen
Relias unterstützt Einrichtungen mit E-Learning-Kursen, die unterschiedliche Schwerpunkte der KI-Kompetenz abdecken.
Der Kurs „Grundlagen und Einsatzmöglichkeiten von Künstlicher Intelligenz (KI) im Gesundheitswesen“ vermittelt ein grundlegendes Verständnis von KI, typischen Einsatzfeldern sowie Chancen, Grenzen und Risiken.
„Sicherer Umgang mit Künstlicher Intelligenz im Gesundheits- und Sozialwesen“ richtet den Blick stärker auf die praktische Anwendung. Mitarbeitende lernen unter anderem, sensible Daten zu schützen, Freigaben zu beachten, KI-Ausgaben kritisch zu prüfen und bei Unsicherheiten oder Auffälligkeiten richtig zu reagieren.
Beide Kurse können unabhängig voneinander als Bausteine einer KI-Kompetenz-Schulung eingesetzt und durch einrichtungsspezifische Vorgaben, Unterweisungen und weitere Maßnahmen ergänzt werden.
