Utah erlaubt als zweiter US-Bundesstaat ein Pilotprojekt, bei dem ein KI-Chatbot des Startups Legion Health psychiatrische Medikamente verschreiben darf. Offizielle Stellen versprechen sich davon Kosteneinsparungen und eine bessere Versorgung, während Mediziner scharfe Kritik an den Risiken der Technologie äußern.

• Automatisierte Verschreibung psychiatrischer Medikamente durch eine KI soll Engpässe und Kosten reduzieren.
• Einjährige Testphase in Utah mit dem Chatbot von Legion Health für monatlich 19 Dollar.
• Massive Sicherheitsbedenken von Ärzten hinsichtlich der Intransparenz und potenzieller Risiken bei der Wirkstoffabgabe.

Quelle: The Verge

Die Digitalisierung der medizinischen Versorgung in Utah

Die Entscheidung in Utah wirkt wie ein gewagtes Experiment am offenen Herzen des Gesundheitssystems. Während die Europäische Union mit dem AI Act auf den Human-in-the-Loop setzt und den Menschen als letzte Instanz zwingend vorschreibt, scheint man in den USA eher auf den Gott aus der Maschine zu vertrauen. Vielleicht ist das Vertrauen in Algorithmen dort schlicht grenzenlos, oder das Leben des Einzelnen ist im Vergleich zu einer 19-Dollar-Flatrate einfach eine vernachlässigbare Größe geworden.

Glaubt wirklich irgendjemand, dass ein Chatbot die Nuancen einer psychiatrischen Behandlung erfassen kann. Wenn die KI bei der Dosis irrt, ist das vermutlich nur ein bedauerlicher Systemfehler in einer ansonsten effizienten Prozesskette. Wirtschaftlich gesehen ist die Auslagerung ärztlicher Verantwortung an Software natürlich ein Vorteil, solange niemand für fatale Folgen zur Kasse gebeten wird. Für Patienten bedeutet das potenziell eine schnellere Versorgung, aber eben auch ein neues Level an technologischer Abhängigkeit, bei dem Empathie durch binäre Entscheidungsbäume ersetzt wird.

Die gesellschaftliche Entwicklung hin zur Automatisierung sensibler Bereiche wirft jedoch Schatten voraus. Wenn wir die menschliche Kontrolle zugunsten von Effizienz und Profit aufgeben, opfern wir möglicherweise genau die Sicherheit, die eine professionelle Diagnose ausmacht. Dieses Projekt ist ein Paradebeispiel dafür, wie man Risiken externalisiert und Verantwortung an eine Blackbox delegiert. Ob die Patienten nach einem Jahr von diesem digitalen Fortschritt profitieren oder lediglich als Beta-Tester für die nächste Pannen-Software fungieren, ist völlig offen.