Künstliche Intelligenz gegen natürliche Psychopathen

Mit Hilfe einer auf maschinellem Lernen basierenden Technologie namens Perspective will Google dazu beitragen, das Diskussionsklima in Online-Foren, im Kommentarbereich von Publikationen und andernorts im Internet zu entgiften. Die Idee dahinter: Perspective soll Beleidigungen, Beschimpfungen und Verleumdungen, wie sie oft das Klima in Online-Diskussionen vergiften, als solche erkennen, und weist diesen jeweils einen Score, einen numerische Wert zu, der die „Toxizität“ repräsentiert.

Was mit Nutzer-Beiträgen geschieht, die die API als „toxisch“ erkannt hat, bleibt den Betreibern der jeweiligen Plattformen überlassen. Auf der Website zur API zeigen zwei Experimente die damit verbundenen Möglichkeiten auf:

• Beim „Reading Experiment“ kann der Leser über einen Schieberegler festlegen, bis zu welchem Grad er bereit ist, sich toxischen Kommentaren auszusetzen;
• Beim „Writing Experiment“ ermittelt die Technologie zu einem beliebigen geschriebenen Text, ob und mit welcher Wahrscheinlichkeit andere Nutzer ihn für „giftig“ halten würden.

Trainiert wurde Perspective mit Hilfe mehrerer hunderttausend Kommentare, die zunächst von menschlichen Moderatoren bewertet wurden. Entwickler können schon jetzt einen API-Key anfordern. Vorerst wird Perspective allerdings nur englischsprachige Inhalte bewerten können.