1. Datenschutz und Datensicherheit

Werden bei der Nutzung einer KI-Applikation im medizinischen Bereich Personendaten bearbeitet, müssen die datenschutzrechtlichen Vorgaben eingehalten werden. Als Personendaten gelten alle Angaben, die sich auf eine bestimmte oder bestimmbare natürliche Person beziehen (Art. 5 Bst. a DSG).

1.1 Informationspflicht und Einwilligung

Eine wesentliche Pflicht des Datenschutzrechts bildet die Informationspflicht gegenüber betroffenen Personen (Art. 19 DSG). Danach müssen Verantwortliche, beispielsweise Spitäler oder Ärzte, betroffene Personen, wie etwa Patienten, angemessen über die Beschaffung von Personendaten informieren. Zu den mitzuteilenden Informationen zählen neben der Identität und Kontaktdaten des Verantwortlichen (Art. 19 Abs. 2 Bst. a DSG) der Bearbeitungszweck (Art. 19 Abs. 2 Bst. b DSG) und gegebenenfalls die Empfänger oder die Kategorien von Empfängern (als Dritte), denen Personendaten bekanntgegeben werden (Art. 19 Abs. 2 Bst. c DSG). Werden die Personendaten den Herstellern und/oder Anbietern von KI-Applikationen bekanntgegeben, müssen die Patienten folglich entweder über die konkreten Empfänger oder zumindest über die Kategorien der Empfänger (beispielsweise KI-Hersteller bzw. Anbieter) informiert werden. Die Information erfolgt in der Regel über eine Datenschutzerklärung.

Zu beachten ist, dass Gesundheitsdaten als besonders schützenswerte Personendaten gelten und daher strengeren rechtlichen Anforderungen unterliegen (Art. 5 Bst. c DSG). Werden solche Daten an Dritte weitergegeben, ist nicht nur die Information an die betroffene Person erforderlich, sondern häufig auch deren Einwilligung (Art. 30 Abs. 2 Bst. c DSG). Dies bedeutet, dass Patienten in der Regel ihre (ausdrückliche) Einwilligung erteilen müssen, wenn ihre Gesundheitsdaten bei der Nutzung von KI-Applikationen, beispielsweise im Kontext einer medizinischen Behandlung, an den KI-Hersteller bzw. Anbieter weitergegeben werden, es sei denn, der KI-Hersteller bzw. Anbieter qualifiziert als Auftragsbearbeiter. Ein Auftragsbearbeiter bearbeitet Personendaten ausschliesslich gemäss den Weisungen des Verantwortlichen. Ein Beispiel hierfür ist ein KI-Hersteller bzw. Anbieter, dem ein Spital oder eine Arztpraxis Zugriff auf Patientendaten gewährt, damit dieser die KI-Software im Rahmen der Weisungen des Verantwortlichen betreibt – beispielsweise zur Bildanalyse oder Diagnostikunterstützung –, ohne dabei eigene Zwecke zu verfolgen. Handelt es sich hingegen um ein Unternehmen, das eigenständig über Zweck und Mittel der Datenbearbeitung entscheidet, liegt eine Datenbekanntgabe an einen «Dritten» im Sinne von Art. 30 Abs. 2 Bst. c DSG vor. Es ist daher im Einzelfall zu prüfen, ob der KI-Hersteller bzw. Anbieter im Rahmen der Nutzung von KI-Applikationen auf Gesundheitsdaten Zugriff erhält und ob dieser als Auftragsbearbeiter oder als «Dritter» einzustufen ist.

1.2 Automatisierte Einzelentscheidungen

Werden KI-Applikationen verwendet, bei denen die Datenbearbeitung als automatisierte Einzelentscheidung qualifiziert, gilt eine besondere Informationspflicht. Eine automatisierte Einzelentscheidung liegt vor, wenn eine Entscheidung ausschliesslich auf einer automatisierten Bearbeitung von Personendaten beruht und die Entscheidung für die betroffene Person mit einer Rechtsfolge verbunden ist oder sie erheblich beeinträchtigt (Art. 21 Abs. 1 DSG). Zu denken ist beispielswiese an eine Krankenversicherung, die eine KI-Applikation einsetzt, um Anträge auf Kostenübernahme für bestimmte medizinische Behandlungen automatisiert zu prüfen. Wird ein Antrag ohne menschliches Zutun allein aufgrund der durch die KI analysierten Gesundheitsdaten abgelehnt, liegt eine automatisierte Einzelentscheidung vor, da die Entscheidung direkte finanzielle Auswirkungen für die betroffene Person hat. Sind diese Voraussetzungen erfüllt, muss der Verantwortliche die betroffene Person informieren und gibt ihr auf Antrag die Möglichkeit, ihren Standpunkt darzulegen. Zudem kann die betroffene Person verlangen, dass die automatisierte Entscheidung von einer natürlichen Person überprüft wird (Art. 21 Abs. 2 DSG), soweit keine Ausnahme greift (Art. 21 Abs. 3 DSG), und sie kann gestützt auf das Auskunftsrecht vom Verantwortlichen Informationen über die Logik verlangen, auf der die Entscheidung beruht (Art. 25 Abs. 2 lit. f DSG). Folglich müssen Krankenversicherungen sowie Spitäler oder Ärzte, die KI-Applikation verwenden, deren Entscheidungen als automatisierte Einzelentscheidungen gelten, im Rahmen des Auskunftsrechts in der Lage sein, betroffenen Personen zumindest die grundlegende Funktionsweise der eingesetzten KI-Applikation zu erläutern.

1.3 Zweckbindung

Erhalten KI-Anbieter im Rahmen der Nutzung von KI-Applikationen Zugriff auf Personendaten, ist grundsätzlich sicherzustellen, dass diese nicht für andere bzw. eigene Zwecke verwendet werden. Gemäss dem Grundsatz der Zweckbindung dürfen Personendaten nämlich nur zu einem bestimmten, der betroffenen Person erkennbaren Zweck beschafft und auf eine Weise bearbeitet werden, die mit diesem Zweck vereinbar ist (Art. 6 Abs. 3 DSG). Vor diesem Hintergrund ist die Verwendung von KI-Applikationen, deren Training auf die Bearbeitung der verwendeten Personendaten beruhen, problematisch, da die verwendeten Personendaten in der Regel für andere Zwecke beschafft wurden. Allerdings wird – je nach Einzelfall – das Training einer KI-Applikation mit verwendeten Personendaten gestützt auf überwiegende Interessen gerechtfertigt werden können. Ein überwiegendes Interesse fällt beispielsweise in Betracht, wenn der Verantwortliche die Personendaten für nicht personenbezogene Zwecke wie Forschung, Planung und Statistik bearbeitet (nicht personenbezogene Zwecke), sofern weitere Voraussetzungen erfüllt sind (Art. 31 Abs. 2 Bst. e DSG).

1.4 Datensicherheitsmassnahmen

Bei der Verwendung von KI-Applikationen wie auch bei anderen IT-Anwendungen müssen Verantwortliche geeignete technische und organisatorische Massnahmen zur Gewährleistung einer angemessenen Datensicherheit ergreifen (Art. 8 DSG). Ziel ist insbesondere, die Vertraulichkeit, Verfügbarkeit, Integrität und Nachvollziehbarkeit sicherzustellen (Art. 2 DSV). Technische Massnahmen beziehen sich auf den technischen Aspekt des Informationssystems (beispielsweise Anonymisierungen, Verschlüsselungen, Authentifizierungen). Organisatorische Massnahmen hingegen sind umfassender und betreffen die Umgebung der Applikation, die Personen, die sie nutzen, und die Art der Nutzung (beispielsweise Berechtigungsregelung, Verzeichnis der Bearbeitungstätigkeiten). Welche konkreten technischen und organisatorischen Massnahmen umgesetzt werden müssen, schreibt das Gesetz nicht vor. Massgebend ist immer der Schutzbedarf der Personendaten und das Risiko für die Persönlichkeit und die Grundrechte der betroffenen Personen im Einzelfall (Art. 1 DSV).

1.5 Weitere datenschutzrechtliche Vorgaben

Erhält der KI-Anbieter auf Personendaten Zugriff und wird er als Auftragsbearbeiter qualifiziert, ist zu beachten, dass der Verantwortliche mit dem KI-Anbieter eine Auftragsbearbeitungsvereinbarung abschliessen muss. Diese regelt die Bedingungen der Datenbearbeitung und stellt sicher, dass der Auftragsbearbeiter die datenschutzrechtlichen Anforderungen erfüllt. Im Einzelfall ist folglich wichtig zu prüfen, ob ein Fall der Auftragsbearbeitung vorliegt (vgl. Art. 9 DSG).

Erfolgt bei der Nutzung der KI-Applikation eine Datenübermittlung in ein Land, das kein angemessenes Datenschutzniveau besitzt, beispielsweise weil der KI-Anbieter oder ein anderer Empfänger der Daten in einem solchen Land ansässig ist (beispielsweise Indien), ist darüber hinaus sicherzustellen, dass ein geeigneter Datenschutz gewährleistet wird, beispielsweise mittels Standardvertragsklauseln (vgl. Art. 16 DSG). 

In der Regel ist eine Datenschutz-Folgeabschätzung durchzuführen, wenn eine Datenbearbeitung bei der Nutzung einer KI-Applikation mit einem hohen Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Personen verbunden ist (Art. 22 DSG).

2. Ärztliche Schweigepflicht gemäss Art. 321 StGB

Neben dem Datenschutz ist die ärztliche Schweigepflicht gemäss Art. 321 StGB zu beachten. Diese erstreckt sich auf alle Informationen, die dem Arzt infolge seines Berufs anvertraut worden sind oder die er in dessen Ausübung wahrgenommen hat. Im Gegensatz zum DSG, das sich auf Personendaten beschränkt, umfasst die Schweigepflicht daher einen breiteren Kreis von Informationen.

Eine Verletzung der ärztlichen Schweigepflicht liegt vor, wenn geschützte Informationen Dritten offenbart werden. Die ärztliche Schweigepflicht ist daher auch verletzt, wenn bei der Nutzung einer KI-Applikation Informationen aus der ärztlichen Behandlung offengelegt werden. Die Verwendung solcher Informationen zum Training einer KI-Applikation ist daher grundsätzlich unzulässig. Ein Lösungsansatz zur Wahrung der ärztlichen Schweigepflicht kann darin bestehen, die Einwilligung des Patienten für die Nutzung der KI-Applikation einzuholen. In bestimmten Fällen könnte es jedoch auch möglich sein, KI-Applikationen ohne Einwilligung der Patienten zu verwenden, sofern der KI-Hersteller bzw. Anbieter als Hilfsperson im Sinne von Art. 321 Ziff. 1 Abs. 1 StGB qualifiziert. Dies kann beispielsweise der Fall sein, wenn ein Spital oder eine Arztpraxis mit einem externen IT-Unternehmen zusammenarbeitet, das eine KI-Applikation für die ärztliche Diagnostik betreibt und dabei unter der Leitung und Aufsicht des Spitals oder der Arztpraxis handelt, ähnlich wie medizinisches Hilfspersonal. Wird das IT-Unternehmen als Hilfsperson qualifiziert, ist eine Nutzung der erhaltenen Informationen für eigne Zwecke, beispielsweise zur Weiterentwicklung oder zum Training der KI-Applikation, ausgeschlossen. Darüber hinaus ist das IT-Unternehmen zur Wahrung der Geheimhaltung zu verpflichten.

3. Medizinprodukterecht

Wird eine KI-Applikation in der medizinischen Behandlung eingesetzt, könnte sie als Medizinprodukt im Sinne des Heilmittelgesetzes (HMG) und der Medizinprodukteverordnung (MepV) qualifiziert werden. In diesem Fall ist es erforderlich, ein Konformitätsbewertungsverfahren zu durchlaufen und die weiteren regulatorischen Anforderungen zu erfüllen. 

3.1 Qualifizierung der KI-Applikation als Medizinprodukte-Software

Gemäss Art. 4 Abs. 1 lit. b HMG gelten Produkte, einschliesslich Software, als Medizinprodukte, wenn sie für die medizinische Verwendung bestimmt sind oder als solche angepriesen werden. Die Hauptwirkung eines Medizinprodukts wird dabei nicht durch pharmakologische oder immunologische Mittel, sondern durch physikalische Mittel erreicht. Medizinprodukte dienen unter anderem der Diagnose, Verhütung, Behandlung, Linderung, Vorhersage, Prognose oder Überwachung von Krankheiten, Verletzungen oder Behinderungen.

Eine KI-Applikation, die im Gesundheitswesen zur Diagnostik, Vorbeugung, Therapieüberwachung oder Behandlung eingesetzt wird, qualifiziert daher als Medizinprodukte-Software, wenn sie eine medizinische Zweckbestimmung verfolgt (vorbehältlich weiterer Voraussetzungen, vgl. Art. 3 Abs. 1 MepV). 

3.2 Klassifizierung der KI-Applikation als Medizinprodukte-Software und Konformitätsbewertungsverfahren

Wird eine KI-Applikation als Medizinprodukte-Software qualifiziert, muss für ihre Inverkehrbringung ein Konformitätsbewertungsverfahren durchgeführt werden (Art. 46 HMG). Das Verfahren variiert je nach Risikoklasse des Medizinprodukts. Medizinprodukte werden unter Berücksichtigung ihrer Zweckbestimmung und der damit verbundenen Risiken in vier Risikoklassen (I, IIa, IIb und III) eingeteilt (Art. 15 MepV i.V.m. Anhang VIII EU-MDR). Diese Klassifizierung ist daher entscheidend für die Festlegung des Konformitätsbewertungsverfahrens, das für das Inverkehrbringen des Medizinprodukts erforderlich ist. 

Für Medizinprodukte der Klasse I führt der Hersteller das Konformitätsbewertungsverfahren eigenständig durch und dokumentiert die Übereinstimmung mit den gesetzlichen Anforderungen in einer Konformitätserklärung. Bei Medizinprodukten der höheren Klassen (IIa, IIb, III) muss das Konformitätsverfahren mit einer bezeichneten Stelle (Notified Body) durchgeführt werden, welche die Einhaltung der Vorschriften überprüft. Damit die Medizinprodukte in der Schweiz in Verkehr gebracht oder auf dem Schweizer Markt bereitgestellt werden können, müssen sie ein Konformitätskennzeichen tragen. 

Hervorzuheben ist, dass die Klassifizierung der Medizinprodukte-Software entweder basierend auf der Risikoklasse des durch sie gesteuerten oder beeinflussten Produkts oder, falls sie unabhängig von einem anderen Produkt verwendet wird, aufgrund ihrer eigenen Risikobewertung erfolgt. In jedem Fall muss das Konformitätsbewertungsverfahren die Sicherheit und Wirksamkeit der KI-Applikation sicherstellen, bevor sie in Verkehr gebracht wird.

4. Weitere Rechtsgebiete

Neben den bereits genannten rechtlichen Anforderungen aus dem Datenschutzrecht, der ärztlichen Schweigepflicht und dem Medizinprodukterecht müssen auch andere Rechtsgebiete und Problemfelder beachtet werden, welche die Nutzung von KI-Applikationen im Gesundheitswesen betreffen können. Dazu gehören insbesondere das Diskriminierungsverbot, da bei der Nutzung von KI-Applikationen das Risiko besteht, dass Entscheidungen getroffen werden, die bestimmte Personengruppen benachteiligen (beispielsweise aufgrund der Algorithmen oder der Daten, mit denen die KI-Applikation trainiert wurde), sowie das Urheberrecht und die Haftung für die Nutzung der KI-Applikation.

5. Fazit

Die Nutzung von KI-Applikationen im Gesundheitswesen bietet grosses Potenzial zur Verbesserung der medizinischen Versorgung, birgt jedoch auch zahlreiche rechtliche Herausforderungen. Insbesondere der Datenschutz, die ärztliche Schweigepflicht und die Anforderungen des Medizinprodukterechts müssen beachtet werden. Darüber hinaus erfordern auch das Diskriminierungsverbot, das Urheberrecht und Haftungsfragen eine umfassende rechtliche Betrachtung. Es ist entscheidend, dass bei der Nutzung von KI-Applikationen im Gesundheitswesen alle relevanten rechtlichen Anforderungen berücksichtigt werden, um insbesondere den Schutz der Patienten, die Wahrung der Vertraulichkeit sowie die Rechte und Pflichten der beteiligten Parteien sicherzustellen.