Sechs ethische Aspekte Künstlicher Intelligenz
Die rasante Entwicklung von Künstlicher Intelligenz (KI) wird die Art und Weise, wie wir im Gesundheitswesen behandelt werden und wie wir unseren Alltag gestalten, grundlegend verändern. Doch während KI unbestreitbar innovative Möglichkeiten eröffnet, bringen diese Fortschritte auch eine Vielzahl ethischer Fragen mit sich. Die Aspekte Transparenz, Zuverlässigkeit, Diskriminierungsfreiheit, Barrierefreiheit, Schutz der Privatsphäre und Verantwortlichkeit bilden das Herzstück dieser Diskussion über die ethischen Dimensionen der KI.
Transparenz über Algorithmen und Datenherkunft schafft Vertrauen
Eine der grundlegenden ethischen Anforderungen an KI-Systeme ist Transparenz. In medizinischen Anwendungen ermöglicht Transparenz Ärzt:innen und Fachleuten, die Entscheidungsgrundlagen von KI-Algorithmen zu verstehen. Ein Beispiel hierfür ist die Diagnoseunterstützung durch KI. Ärzt:innen müssen nachvollziehen können, wie ein Algorithmus zu einer bestimmten Diagnose gelangt ist. Die für die Diagnose relevante Entscheidungsgrundlage kann die KI so angeben, dass Ärzt:innen es verstehen. Das ermöglicht Vertrauen und lässt bessere Entscheidungen zu.
Werfen wir einen Blick auf personalisierte Werbeanzeigen, die wir alle regelmäßig angezeigt bekommen. Nutzende sollten auch hier verstehen können, warum ihnen bestimmte Inhalte empfohlen werden, um Manipulation zu vermeiden. So kann man auf einigen Plattformen die Themen, die für die Werbeausspielung mit der eigenen Person verknüpft werden, nachlesen und verändern. Lieber Garten als Luxuskleidung? Lässt sich anpassen oder auch komplett abschalten. Das Stichwort der Stunde ist hier die Erklärbarkeit von KI – dafür gibt es mittlerweile zahlreiche, Möglichkeiten, auch technische.
KI-Systeme im Gesundheitswesen müssen verlässlich funktionieren
Wenn eine KI eine Diagnose oder Behandlungsempfehlung abgibt, müssen diese Empfehlungen verlässlich und präzise sein. Ein berühmtes Beispiel ist das KI-System „Watson“ von IBM, das in der Onkologie eingesetzt wurde. Es stellte sich jedoch heraus, dass einige der vorgeschlagenen Behandlungen nicht den medizinischen Standards entsprachen. Mittlerweile wurde nachgebessert – eine Kombination aus Mensch und Maschine hilft, Fehler zu entdecken und zu minimieren. Und auch unter schwierigen Bedingungen sollte KI funktionieren. Stromausfall? Kein Internet? Alternativlösungen müssen dann funktionieren – genauso wie selbstfahrende Autos auch bei Regen und Schneefall mit lahmgelegten Sensoren sicher sein müssen. Ein fehlerhaftes System kann Menschenleben gefährden.
Diverse Entwickler:innenteams und Nutzer:innenzentrierung gegen Diskriminierung durch KI
KI-Systeme können unbeabsichtigt Vorurteile und Diskriminierung verstärken, wenn die Daten, mit denen sie trainiert wurden, solche Vorurteile enthalten. Im Gesundheitswesen kann dies zu ungleicher Behandlung von Patient:innen führen. Ein KI-System könnte zum Beispiel aufgrund von rassistischen Vorurteilen in den Daten bei der Diagnosestellung voreingenommen sein. Werden Hautveränderungen von einer KI bei heller Haut besser erkannt als bei dunkler, kann das zu ernsthaften Problemen für People of Color führen. Grund dafür kann sein, dass einfach deutlich weniger Bilder dunkler Haut in den Trainingsdaten vorhanden waren. Eine konsequent diverse Nutzer:innenzentrierung sowie diverse Entwickler:innenteams können helfen, die Bedürfnisse aller Menschen bereits bei der Entwicklung einzubeziehen.
Maria Hinz | Digitalkoordinatorin, BARMER | LinkedIn | Copyright: Maria Hinz
KI kann Barrieren abbauen, aber auch neue schaffen
KI sollte so gestaltet sein, dass sie für alle Menschen zugänglich ist, einschließlich solcher mit Behinderungen. Im Gesundheitswesen könnten barrierefreie KI-Anwendungen Menschen mit eingeschränkten kognitiven oder physischen Fähigkeiten unterstützen. Beispielsweise könnten sprachgesteuerte KI-Systeme Menschen mit Sehbehinderungen bei der Medikamentenverwaltung helfen. Schon heute übernehmen Smartphones mit KI-gestützten Apps das Sehen für blinde Menschen und tragen dadurch zu mehr Teilhabe bei.
Gesundheitsdaten gehören geschützt – besonders im KI-Kontext
KI verarbeitet oft riesige Mengen persönlicher Daten. Diese sind hierzulande zumeist pseudonymisiert oder anonymisiert. Im Gesundheitswesen müssen Patientendaten sicher verwaltet und anonymisiert werden, um Missbrauch zu verhindern. Wir müssen dabei aber auch im Hinterkopf haben, dass es künftig möglich sein könnte, dass KI durch Mustererkennung Pseudonymisierung und Anonymisierung aufheben könnte. Wichtig ist hierbei, dass die Menschen über den Einsatz ihrer Daten Bescheid wissen, diesen selbst steuern können und die dafür notwendige Digitalkompetenz besitzen.
Wer haftet eigentlich?
Die Frage nach der Verantwortlichkeit bei Fehlern oder Schäden, die durch KI-Systeme verursacht werden, ist komplex. Im Gesundheitswesen stellt sich die Frage, wer haftbar ist, wenn eine KI-gestützte Behandlung schiefgeht. Ärzt:innen, Hersteller:innen oder Entwickler:innen des Algorithmus? Ähnlich in der Autobranche: Wer ist verantwortlich, wenn ein selbstfahrendes Auto einen Unfall verursacht? Klare rechtliche Rahmenbedingungen sind unerlässlich, um die Verantwortlichkeiten festzulegen. Schon jetzt ist die Festlegung der klaren Verantwortung in den Teams von großer Bedeutung.
Fazit
Insgesamt ist die Ethik der KI ein hochkomplexes Thema, das eine ausgewogene Abwägung der Chancen und Risiken erfordert. Es ist entscheidend, dass Regierungen, Unternehmen und die Gesellschaft als Ganzes zusammenarbeiten, um klare ethische Leitlinien und rechtliche Rahmenbedingungen festzulegen. Die Transparenz von KI-Systemen sollte gefördert, Diskriminierung vermieden und die Privatsphäre geschützt werden. Durch verantwortungsvolle Entwicklung und Nutzung von KI können wir die Vorteile dieser Technologie nutzen, ohne dabei die grundlegenden ethischen Prinzipien aus den Augen zu verlieren.
unsere Gründungspartner:
[…] Hier geht es zum Beitrag auf der Website von Unboxing Healthcare. […]