Ein US-Anwalt warnt nach ersten Schadensersatzklagen wegen KI-induzierter Psychosen vor massiven Sicherheitsrisiken durch unregulierte psychiatrische Chatbots (Quelle: TechCrunch). Die juristischen Auseinandersetzungen markieren eine neue Eskalationsstufe in der Debatte um die Haftung von KI-Entwicklern bei schwerwiegenden gesundheitlichen Folgeschäden.

Die dunkle Seite der demokratisierten KI-Seelsorge

Was wir schon länger ahnten, wird nun zum Fall für die Gerichte: Die schöne neue Welt der digitalen Mental-Health-Vorsorge bekommt tiefe Risse. In einer Zeit, in der Termine beim menschlichen Therapeuten seltener sind als ehrliche Versprechen im Wahlkampf, erscheint die KI-Lösung auf den ersten Blick wie ein Segen. Doch wir erleben gerade den ultimativen Feldversuch am offenen Herzen der Gesellschaft. Bisher dachten wir, das größte Problem an der KI-Revolution seien halluzinierende Suchmaschinen, die uns falsche Fakten über historische Daten liefern. Jetzt stellen wir fest: Wenn die KI halluziniert, tut es der Nutzer im schlimmsten Fall kurz darauf auch.

Du musst verstehen, dass ein schlechter Therapeut traditionell schon mehr Schaden als Nutzen anrichten konnte. Früher war dieser Schaden jedoch lokal begrenzt und erforderte zumindest die Mühe, sich physisch in eine Praxis zu begeben. Dank des Silicon Valley hat heute jeder von uns rund um die Uhr den bequemsten Zugang zu den schlechtesten Therapeuten der Weltgeschichte direkt in der Hosentasche. Gesellschaftlich stehen wir vor einem Trümmerhaufen, wenn das Vertrauen in jede Form der digitalen Kommunikation erodiert, weil Algorithmen ohne moralischen Kompass instabile Persönlichkeiten noch weiter destabilisieren.