KI-Halluzinationen? Das Startup CollectiveIQ verdonnert Chatbots zur Gruppenarbeit. Es gab schon schlechtere Ideen.

Sie bleiben ein Dauerthema: Halluzinationen. Nicht die psychedelische Sorte, sondern die, bei denen Sprachmodelle munter Fakten erfinden, als wären sie betrunkene Geschichtenerzähler auf einer Open-Mic-Night. Jetzt kommt ein Startup und sagt: Warum nicht einfach alle Chatbots zusammenstecken und sie abstimmen lassen? Demokratie für Maschinen, sozusagen. Wenn einer spinnt, korrigieren die anderen – wie eine Schulklasse, die gemeinsam die Hausaufgaben macht.

Das Prinzip ist simpel: Statt sich auf ein einziges Modell zu verlassen, lässt das Startup mehrere KI-Systeme parallel antworten und dann per Crowdsourcing entscheiden, welche Antwort am plausibelsten ist. Die Nutzer selbst dürfen mit abstimmen.

Natürlich ist die Idee nicht ganz neu. Schon jetzt gibt es Ansätze, bei denen mehrere Modelle gegeneinander antreten, um die beste Antwort zu finden. Aber dieses Startup geht einen Schritt weiter und macht daraus ein soziales Experiment. Plötzlich sind wir nicht mehr nur passive Konsumenten von KI-Output, sondern aktive Mitgestalter. Das hat etwas von Wikipedia, nur mit mehr Algorithmen.

Aber: Ist das wirklich die Lösung für das Halluzinationsproblem? Am Ende des Tages bleibt die Frage: Wenn mehrere KIs sich einig sind, dass zwei plus zwei fünf ergibt, wird es dann plötzlich wahr? Crowdsourcing ist kein Allheilmittel.

Interessant ist der Ansatz trotzdem. Er zeigt, wie die Branche nach Wegen sucht, um die gröbsten Patzer ihrer Modelle auszubügeln. Und vielleicht ist das ja der erste Schritt in eine Zukunft, in der KI nicht mehr wie ein überambitionierter Praktikant antwortet, sondern wie ein Team erfahrener Redakteure – mit allen Vor- und Nachteilen von Kompromissen. Bis dahin bleibt uns wohl nichts anderes übrig, als weiter skeptisch zu bleiben und jede KI-Antwort mit der gleichen Vorsicht zu genießen wie die Aussage eines Politikers im Wahlkampf.