Was passiert, wenn KI in der Medizintechnik nicht für Fortschritt, sondern für Chaos und Fehldiagnosen sorgt?

Es birgt aber auch Gefahren, die oft nicht abschätzbar sind. Was passiert also, wenn KI unreguliert bleibt? Könnte eine falsche Entscheidung durch eine fehlerhafte KI-Anwendung lebensbedrohliche Folgen haben? Fragen über Fragen und keiner kennt so wirklich die Antwort! Zum AI-Act und der MDR (Medical Device Regulation) hat sich die Europäische Union trotzdem entschlossen, um damit ein umfassendes Gesetz zur Regulierung von KI-Systemen auf den Weg zu bringen. Für Unternehmen, die KI-gestützte Technologien in der Diagnose von Krankheitsbildern oder anderen Anwendungen einsetzen, bedeutet diese Regulierung Nachholbedarf!

Doch erstmal kurz etwas zur Einordnung des AI-Acts.

Am 1. August 2024 trat der AI-Act und die MDR-Verordnung der EU in Kraft. Der AI-Act kategorisiert KI-Systeme je nach Risiko für die Sicherheit und Grundrechte in vier Stufen:

• Minimales Risiko: Unregulierte Anwendungen wie Spamfilter und Rechtschreibkorrekturen.
• Begrenztes Risiko: Transparenzpflichten für Systeme wie Chatbots oder KI-generierte Videos. Nutzer müssen wissen, dass sie mit einer KI interagieren.
• Hohes Risiko: Medizinische Diagnosesysteme und KI-basierte Kreditbewertungen müssen strenge Auflagen zu Datenschutz und Sicherheit erfüllen.
• Unannehmbares Risiko: Systeme wie Social Scoring oder Predictive Policing, die die Grundrechte gefährden, sind komplett verboten.

Neben den fortschrittlichen Eigenschaften und Funktionen von AI-Tools, sind die Risiken im medizinischen Bereich nicht von der Hand zu weisen. Tools und Systeme, welche zur Anamnese genutzt werden oder diese unterstützen, sind in die Kategorie „hohes Risiko“ einzuordnen. Ein fehlerhaftes System könnte den Gesundheitszustand der Patienten gefährden und zusätzlich das Vertrauen in die beteiligten Unternehmen beeinträchtigen. Aus Gründen des Patientenschutzes hat die EU den AI-Act und die MDR beschlossen. Damit einher gehen die Kontroll- und Testvorgaben für KI-gesteuerte Medizin- und Gerätetechnik, bevor sie für den Vertrieb freigegeben werden dürfen.

Innovationsbarrieren sind durch den AI-Act und die MDR nicht vorgesehen, vielmehr sind sie als Schutzmechanismen für Patientinnen / Patienten und für die Allgemeinheit gedacht. Unternehmen, die rechtzeitig agieren und sich frühzeitig mit den Regulierungen auseinandersetzen, werden Compliance und das Vertrauen ihrer Kunden und Patienten sukzessive stärken können.

Schlussendlich muss sich zeigen, was KI für Medizin- und die Gerätetechnik an Vor- und Nachteilen mit sich bringt und wie die Branche die KI in neue Produkte, Software und Anwendungen integriert. Der ethische Aspekt sollte und darf dabei nicht vernachlässigt werden.