Brauchen wir Treuhänder für unsere Daten?

Alena M. Buyx ist vollapprobierte Ärztin mit weiteren Abschlüssen in Philosophie und Soziologie. Die 42-Jährige habilitierte sich 2013 und ist heute Professorin an der Technischen Universität München. Zuvor war sie bereits tätig als Professorin für Medizinethik an der Universität Kiel, Emmy Noether-Gruppen-Leiterin an der Universität Münster, Academic Scholar an der Harvard University, stellvertretende Direktorin des englischen Ethikrats und Senior Fellow am University College London. Seit 2016 gehört sie dem Deutschen Ethikrat an.

Frau Prof. Buyx, KI übertrifft oft den menschlichen Verstand, Algorithmen erkennen Tumore zuverlässiger als das ärztliche Auge. Der Fortschritt ist nicht zu leugnen – worüber müssen wir also noch diskutieren?

Ich glaube, dass Big Data, Algorithmen, künstliche Intelligenz, all das also, was wir unter Digitalisierung zusammenfassen, eine große Chance bedeuten. Gleichzeitig müssen wir uns auch aus ethischer Sicht sehr intensiv mit dieser Chance befassen. Wir müssen uns überlegen, wie wir die Digitalisierung verantwortungsvoll nutzen können, um unser Medizinsystem zu verbessern. Bei der Überführung in die medizinische Praxis und das Gesundheitssystem dürfen wir nicht blauäugig Risiken eingehen und unerwünschte ethische und soziale Effekte einfach in Kauf nehmen.

Wo sehen Sie die Fallstricke?

Im Moment scheint es vor allem darum zu gehen zu zeigen, was alles möglich ist. Wichtig ist jedoch, Forschung von Anfang an so zu betreiben, dass wir auch daran denken, was irgendwann einmal mit den Ergebnissen passieren soll. Wir sollten uns fragen, welche Art von Verantwortungsteilung wir uns eigentlich wünschen. Was dürfen wir den Maschinen im ethischen Sinne überhaupt überlassen? Dazu brauchen wir einen öffentlich-politischen Diskurs. Wir müssen die Bevölkerung mitnehmen. Und wir müssen politische und gesetzliche Regelungen entwickeln oder bestehende verändern, um diese Art von verantwortungsvoller Innovation überhaupt zu ermöglichen.

Stichwort Datenmündigkeit – hier gibt es viel Skepsis und Unsicherheiten. Was raten Sie den Menschen im Umgang mit ihren Daten?

Wir sind in einem riesigen Datenstrom und hinterlassen Datenspuren – ständig. Es wäre naiv, zu einem alten Verständnis von informationeller Selbstbestimmung und Umgang mit Daten zurückkehren zu wollen. Im Ethikrat haben wir daher gesagt, wir müssen akzeptieren, dass wir nicht mehr alles zu jeder Zeit kontrollieren können. Aber jemand, der souverän mit seinen Daten umgeht, muss wissen, was mit seinen Daten geschieht – und eingreifen können, wenn ihm das wichtig ist.

Es wäre naiv, zu einem alten Verständnis von informationeller Selbstbestimmung und Umgang mit Daten zurückkehren zu wollen.

Soll heißen: Der Nutzer muss sagen können, mir ist klar, dass große Datenmengen verwendet werden, und das ist ok für mich. Aber in bestimmten Fällen will ich eingreifen können. Das heißt, die Voreinstellung sollte nicht sein „maximale Datennutzung“, sondern umgekehrt: Es sollte zunächst alles auf „privat“ eingestellt sein, damit der Nutzer weiß, was gemacht wird. Und dann kann er freigeben. Weil das aber aufwändig sein kann, haben wir auch vorgeschlagen, dass man Einzelne entlastet. Damit die Menschen wirklich gesundheitsmündig sein können, muss man ihnen auch die Möglichkeit geben, zu delegieren. Selbstbestimmt und souverän kann ich auch sein, wenn ich einen Dritten, beispielsweise einen Datentreuhänder, beauftrage. Ich bestimme, welche Daten ich mir vorstellen kann freizugeben und welche nicht. Auf dieser Basis übernehmen Datentreuhänder den Umgang damit – und ich hab meine Ruhe.

Beschäftigen sich auch Medizinstudierende mit Digitalisierung und Big Data in der Medizin?

Ja, aber wir haben es noch nicht geschafft, dieses Thema voll in die Medizin-Curricula zu bringen. Da gibt es noch viel zu tun. Die Studierenden sind der Digitalisierung gegenüber sehr aufgeschlossen, das sind echte „Digital Natives“. Sie sehen aber viele Entwicklungen in diesem Zusammenhang durchaus kritisch. In meinen Seminaren etwa wird sehr viel darüber diskutiert, wie man den Kern guter ärztlicher Arbeit erhalten kann, wenn Maschinen Ärzten einen Teil der Arbeit abnehmen. Meine Aufgabe sehe ich darin, die Studierenden zu befähigen, sich zu diesen Fragen eine Perspektive zu erarbeiten. Denn diese Generation wird die Digitalisierung künftig mitgestalten.