dridde bloggt. manchmal.

Schwarzen Kisten unter die Haube geguckt

Ich kaufe ja gerne Dinge, aus Faulheit auch gerne online. Seit einigen Jahren kaufe ich auch gerne Luftschlösser. Das ganze nennt sich dann Crowdfunding und manchmal werden aus diesen Luftschlössern tolle Dinge.

Eines dieser tollen Dinge war “Looking into Black Boxes”, eine Videoserie, die auf Krautreporter unterstützt werden konnte, bevor die Plattform umgebaut wurde. Die Idee dahinter ist, einen Einblick zu geben, wo Software und Algorithmen unsichtbar in unser Leben eingreifen, und ein Schlaglicht auf das Ubiquitous Computing zu werfen. Die Crowdfundingphase ist längst vorbei, das Projekt wurde erfolgreich finanziert und gestern ist nun die erste der drei Pilotepisoden veröffentlicht worden.

In dieser Episode besuchen Fiona, Jan und Dirk das Unfallkrankenhaus Berlin und sprechen mit dem Leiter der IT sowie Ärzten über ihren Alltag und das Manchester Triage System, das regelt, wie lange ein Notfallpatient warten muss, bis ein Arzt sich um ihn kümmert. Die Folge ist 14 Minuten lang und Ansehen lohnt sich.

Die vielen Schnitte fand ich etwas unnötig, die brachten Unruhe hinein und die s/w-Passagen, in denen man die Kamera sah, empfand ich als komisch. Sie sollen vermutlich aber die Kameraarbeit dokumentieren. Die Voice-Overs und die unaufgeregten Dialoge haben mir gefallen. Gegen Ende der Folge wird auch ein wenig Kritik geäußert: Wer ist verantwortlich für getroffene Entscheidungen und Fehler, die passieren, wem nützt die gewonnene Effektivität? Werden Vorgänge schneller, transparenter oder nur wirtschaftlicher?

An dieser Stelle wurde ich noch einmal hellhörig. Vor einigen Jahren habe ich einen Text gelesen, in dem es um ein Softwaresystem in Krankenhäusern ging, das verschiedene Kennzahlen eines Patienten wie Alter, Vorerkrankungen und rund 20 aktuelle Vitalwerte aufnimmt und daraus eine Prognose erstellt. Dabei standen Überlebenswahrscheinlichkeit für die nächsten Monate bis zu ein paar Jahren und diese Wahrscheinlichkeiten in Relation zu den Behandlungs- und Folgekosten im Fokus und wurden entsprechend bewertet. Das System empfahl für Patienten, bei denen es sich wirtschaftlich nicht mehr lohnt, gar nicht oder nicht nach allen verfügbaren Möglichkeiten zu behandeln. “Tut uns leid, sie sind leider ein medizinisch-wirtschaftlicher Totalschaden”. Das System traf nicht die Entscheidung über Leben und Tod, gab jedoch eine klare Handlungsempfehlung für die behandelnden Ärzte. Natürlich sind die im ukb eingesetzetn Systeme weit davon entfernt und der Kostenfaktor spielt hier eine untergeordnete bzw. bisher keine Rolle, ich hätte mich aber gefreut, wenn Kritik in diese Richtung auch im Video angeklungen wäre.

Das Internet ist schnelllebig und ich pflege kein Linkarchiv, sodass ich den ursprünglichen Text leider nicht verlinken kann. Ich konnte aber zumindest ähnliche Systeme finden, wie in dem von mir erinnerten Text. Es gibt z.B. das PREDICT Modell, hier ein Artikel im PLOS One Journal darüber. Auch hier werden mehrere medizinische Werte sowie Alter des Patienten benutzt um eine Überlebensprognose und Behandlungsempfehlungen abzugeben. Die Behandlungskosten und die begrenzte Zahl an Patienten werden an mehreren Stellen im Artikel erwähnt und das System als Lösung angeboten.

Ethik kann man schwerlich in Code gießen – das ist die Stelle, an der die behandelnden Ärzte gefragt sind, wie die Chirurgin im Video schon sagte. Ich hoffe, dass das noch lange so bleibt. In eine Richtung der rein wirtschaftlichen Kalkulation (wer nach wie vielen Jahren welche Überlebenswahrscheinlichkeit zu welchen Kosten hat, ggf. Patienten unbehandelt lassen), sollte es meiner Meinung nach nicht gehen. Schon gar nicht durch automatisierte Systeme – sonst führt das am Ende dazu, dass entsprechend alte Personen gar keine Behandungen mehr erhalten, außer sie haben ausreichend Geld oder Status.
Mir ist bewusst, dass dies zum Teil auch jetzt schon so ist und einige Patienten nur noch schmerzstillende Mittel bekommen, da eine Behandlung sich schlicht nicht mehr lohnt, sei es finanziell oder aber in gewonnener Lebenszeit im Verhältnis zur entsprechenden Lebensqualität. Diese Entscheidungen automatisiert zu treffen, empfinde ich allerdings als ähnlich dystopisch wie autonome bewaffnete Dronen.

2 Comments

  1. Na da hab ich ja nicht schlecht gestaunt, als ich deinen Namen durch die Credits laufen sah :)

    Grundsätzlich finde ich den Film zu oberflächlich… Aber wie viele Informationen kann man auch in 14 Minuten gießen?

    • dridde says:

      Naja, du darfst nicht vergessen, dass du nicht unbedingt die Zielgruppe bist. Du als Informatiker steckst im Thema drin und dich überrascht nicht, wo Algorithmen und Computer überall eine Rolle spielen. Klar kann man die Informationsdichte erhöhen, aber dann hängst du schlimmstenfalls wieder die Leute ab, die du ansprechen willst.

      Ich habe eher gestaunt, dass die meisten Namen in den Credits keine Nicks waren… ;)

Leave a Reply to dridde × Cancel reply