Schwarzen Kisten unter die Haube geguckt
Ich kaufe ja gerne Dinge, aus Faulheit auch gerne online. Seit einigen Jahren kaufe ich auch gerne Luftschlösser. Das ganze nennt sich dann Crowdfunding und manchmal werden aus diesen Luftschlössern tolle Dinge.
Eines dieser tollen Dinge war “Looking into Black Boxes”, eine Videoserie, die auf Krautreporter unterstützt werden konnte, bevor die Plattform umgebaut wurde. Die Idee dahinter ist, einen Einblick zu geben, wo Software und Algorithmen unsichtbar in unser Leben eingreifen, und ein Schlaglicht auf das Ubiquitous Computing zu werfen. Die Crowdfundingphase ist längst vorbei, das Projekt wurde erfolgreich finanziert und gestern ist nun die erste der drei Pilotepisoden veröffentlicht worden.
In dieser Episode besuchen Fiona, Jan und Dirk das Unfallkrankenhaus Berlin und sprechen mit dem Leiter der IT sowie Ärzten über ihren Alltag und das Manchester Triage System, das regelt, wie lange ein Notfallpatient warten muss, bis ein Arzt sich um ihn kümmert. Die Folge ist 14 Minuten lang und Ansehen lohnt sich.
Die vielen Schnitte fand ich etwas unnötig, die brachten Unruhe hinein und die s/w-Passagen, in denen man die Kamera sah, empfand ich als komisch. Sie sollen vermutlich aber die Kameraarbeit dokumentieren. Die Voice-Overs und die unaufgeregten Dialoge haben mir gefallen. Gegen Ende der Folge wird auch ein wenig Kritik geäußert: Wer ist verantwortlich für getroffene Entscheidungen und Fehler, die passieren, wem nützt die gewonnene Effektivität? Werden Vorgänge schneller, transparenter oder nur wirtschaftlicher?
An dieser Stelle wurde ich noch einmal hellhörig. Vor einigen Jahren habe ich einen Text gelesen, in dem es um ein Softwaresystem in Krankenhäusern ging, das verschiedene Kennzahlen eines Patienten wie Alter, Vorerkrankungen und rund 20 aktuelle Vitalwerte aufnimmt und daraus eine Prognose erstellt. Dabei standen Überlebenswahrscheinlichkeit für die nächsten Monate bis zu ein paar Jahren und diese Wahrscheinlichkeiten in Relation zu den Behandlungs- und Folgekosten im Fokus und wurden entsprechend bewertet. Das System empfahl für Patienten, bei denen es sich wirtschaftlich nicht mehr lohnt, gar nicht oder nicht nach allen verfügbaren Möglichkeiten zu behandeln. “Tut uns leid, sie sind leider ein medizinisch-wirtschaftlicher Totalschaden”. Das System traf nicht die Entscheidung über Leben und Tod, gab jedoch eine klare Handlungsempfehlung für die behandelnden Ärzte. Natürlich sind die im ukb eingesetzetn Systeme weit davon entfernt und der Kostenfaktor spielt hier eine untergeordnete bzw. bisher keine Rolle, ich hätte mich aber gefreut, wenn Kritik in diese Richtung auch im Video angeklungen wäre.
Das Internet ist schnelllebig und ich pflege kein Linkarchiv, sodass ich den ursprünglichen Text leider nicht verlinken kann. Ich konnte aber zumindest ähnliche Systeme finden, wie in dem von mir erinnerten Text. Es gibt z.B. das PREDICT Modell, hier ein Artikel im PLOS One Journal darüber. Auch hier werden mehrere medizinische Werte sowie Alter des Patienten benutzt um eine Überlebensprognose und Behandlungsempfehlungen abzugeben. Die Behandlungskosten und die begrenzte Zahl an Patienten werden an mehreren Stellen im Artikel erwähnt und das System als Lösung angeboten.
Ethik kann man schwerlich in Code gießen – das ist die Stelle, an der die behandelnden Ärzte gefragt sind, wie die Chirurgin im Video schon sagte. Ich hoffe, dass das noch lange so bleibt. In eine Richtung der rein wirtschaftlichen Kalkulation (wer nach wie vielen Jahren welche Überlebenswahrscheinlichkeit zu welchen Kosten hat, ggf. Patienten unbehandelt lassen), sollte es meiner Meinung nach nicht gehen. Schon gar nicht durch automatisierte Systeme – sonst führt das am Ende dazu, dass entsprechend alte Personen gar keine Behandungen mehr erhalten, außer sie haben ausreichend Geld oder Status.
Mir ist bewusst, dass dies zum Teil auch jetzt schon so ist und einige Patienten nur noch schmerzstillende Mittel bekommen, da eine Behandlung sich schlicht nicht mehr lohnt, sei es finanziell oder aber in gewonnener Lebenszeit im Verhältnis zur entsprechenden Lebensqualität. Diese Entscheidungen automatisiert zu treffen, empfinde ich allerdings als ähnlich dystopisch wie autonome bewaffnete Dronen.
Recent Comments