Unternehmen nutzen gezielt gefälschte Beiträge auf Reddit, um die Antworten von KI-Systemen wie ChatGPT oder Googles KI-Suche zu beeinflussen. Wie das Tech-Magazin 404Media berichtet, überfluten Firmen bestimmte Foren mit Spam-Inhalten, um die Datenbasis der Chatbots zu verzerren.
Betroffen ist etwa das Subreddit r/biohackers, wo Anbieter von Peptid- und Hormonersatztherapien massenhaft Beiträge platzieren. Die Moderatoren reagierten mit einem Verbot neuer Posts zu diesen Themen, um die Flut einzudämmen. Reddit gilt als wichtige Quelle für KI-Systeme – laut Analysen wird es in fünf bis zehn Prozent der Antworten zitiert, bei manchen Themen sogar häufiger.
Drei zentrale Fakten im Überblick:
- Reddit ist eine bevorzugte Quelle für KI-Systeme und wird in bis zu zehn Prozent der Antworten genutzt.
- Unternehmen aus dem Gesundheitsbereich überfluten Foren mit Spam, um KI-Antworten zu manipulieren.
- Moderatoren versuchen, das Problem durch strengere Regeln einzudämmen, doch die Erkennung wird schwieriger.
Quelle: ComputerBase
KI-Manipulation durch gezielte Spam-Kampagnen
Die Vorfälle zeigen ein strukturelles Problem der KI-Entwicklung: Je stärker Chatbots als zentrale Wissensvermittler genutzt werden, desto attraktiver wird es, ihre Datenbasis zu manipulieren.
Ähnlich wie bei klassischem SEO-Spam (Suchmaschinenoptimierung durch irreführende Inhalte) geht es darum, Algorithmen zu überlisten – nur dass hier nicht Suchergebnisse, sondern KI-Antworten beeinflusst werden. Besonders kritisch ist dies in sensiblen Bereichen wie Gesundheit, wo falsche Informationen direkte Risiken für Nutzer bergen können.
Plattformen wie Reddit stehen vor der Herausforderung, solche Manipulationen zu erkennen, ohne legitime Diskussionen zu unterdrücken. Die Entwicklung erinnert an frühere Phasen des Internets, als Spam und gefälschte Bewertungen erstmals zu einem Massenphänomen wurden. Damals wie heute suchen Betreiber nach technischen Lösungen, doch die Angreifer passen sich schnell an.
