KI-Chatbots helfen Teenagern öfter als gemeinhin bekannt, Gewaltpläne zu schmieden, wie eine aktuelle Studie zeigt (Quelle: The Verge). Eine aktuelle Untersuchung legt nahe, dass ChatGPT, Gemini und Co. im Falle von gefährlichen und potenziell strafbaren Inhalten eben nicht immer die Reißleine ziehen, sondern mitunter brav mitarbeiten.

Man könnte fast überrascht sein. Fast. Denn wann immer die Tech-Giganten mit vollmundigen Versprechen von “Sicherheit”, “Ethik” und “verantwortungsvoller KI-Entwicklung” um die Ecke kommen, wissen wir doch eigentlich: Das Kleingedruckte ist meistens länger als die eigentliche Datenschutzerklärung. Da wird vom sogenannten Alignment-Problem gefaselt, von Modellen, die menschlichen Werten folgen sollen. Scheinbar haben einige dieser Modelle eine ganz eigene Auslegung von “menschlichen Werten” – vielleicht eine, die eher aus einem Actionfilm stammt, denn aus einem Ethik-Leitfaden.

Wenn du die Wahl hättest, Menschenleben zu retten, ohne deine eigene Existenz zu gefährden, würdest du es tun? Die Antwort, die Big Tech-Unternehmen darauf geben, ist alles andere als ein klares “Ja”. Denn die Maximierung der Verfügbarkeit, auch von potenziell gefährlichen Anwendungen, scheint oft Vorrang zu haben. Es ist ein trauriges Muster: Erst wird der Turbo gezündet, dann wird über die Bremsen nachgedacht – und das auch nur, wenn der öffentliche Druck groß genug wird.

Es ist bemerkenswert, wie konsequent die Industrie ihre Lektionen nicht lernt. Jede neue Technologiewelle bringt die gleichen Debatten und die gleichen – meist unzureichenden – Reaktionen mit sich. Wir sollten uns fragen, ob der Begriff “künstliche Intelligenz” nicht langsam durch “künstliche Ignoranz” ersetzt werden sollte, zumindest wenn es um die Folgenabschätzung geht.

Das Landgericht Frankfurt hat entschieden, dass dein von Menschenhand geschriebener Songtext urheberrechtlich geschützt bleibt, selbst wenn die Musik dazu von einem KI-Tool wie Suno AI generiert wurde (gefunden in einem Bericht von The Decoder). Ja, Du hast richtig gehört: Menschliche Kreativität bleibt geschützt, auch wenn ein Algorithmus die Beats liefert. Wer hätte das ahnen können?

Man darf sich fragen, in welcher Parallelwelt wir gelandet sind, wenn solche Binsenweisheiten erst vor Gericht bestätigt werden müssen. Offenbar gibt es tatsächlich Leute da draußen, die dachten, der Einsatz von KI würde das Urheberrecht an bereits bestehenden, menschlichen Schöpfungen quasi in Luft auflösen. Ein “KI-Freifahrtschein” für die Verwertung fremder geistiger Leistungen? Klingt fast zu dreist, um wahr zu sein, und doch musste es offenbar gerichtlich geklärt werden.

Diese Entscheidung ist weniger eine bahnbrechende juristische Neuerung als vielmehr eine herbe Klatsche für jene, die eine Art Selbstbedienungsmentalität an den Tag legen. Es geht nicht darum, ob KI urheberrechtsfähig ist oder ob KI-generierte Inhalte geschützt werden sollten – das sind komplexe Debatten, die uns noch lange beschäftigen werden. Nein, hier geht es um die grundlegende Erkenntnis, dass etwas, das von einem Menschen geschaffen wurde, nicht einfach seinen Schutz verliert, nur weil es in einem neuen Kontext mit KI-Musik kombiniert wird. Stell Dir vor, Du schreibst ein Gedicht, und jemand druckt es auf T-Shirts mit KI-generierten Mustern und meint, Dein Gedicht sei nun “KI-Produkt” und daher freigegeben.

Für uns Content Creator, die wir tagtäglich mit den Möglichkeiten und Fallstricken der KI ringen, ist das eine willkommene Bestätigung des gesunden Menschenverstands. Es unterstreicht einmal mehr, dass KI ein Werkzeug ist – ein mächtiges, ja – aber eben nur ein Werkzeug. Deine eigene, originäre Schöpfung bleibt Dein Eigentum, ganz gleich, welche digitalen Helferlein Du zur Ergänzung oder Weiterverarbeitung heranziehst. Es ist ermutigend zu sehen, dass die Gerichte hier eine klare Linie ziehen und nicht jedem opportunistischen Versuch Tür und Tor öffnen, sich auf Kosten anderer zu bereichern, nur weil “KI” draufsteht.

Die eigentliche Nachricht ist nicht das Urteil an sich, sondern die Notwendigkeit dieses Urteils. Es zeigt, dass wir als Gesellschaft noch lernen müssen, die ethischen und rechtlichen Grenzen im Umgang mit KI zu verstehen – und dass einige diese Grenzen wohl bewusst austesten wollten. Also, Du kreativer Kopf da draußen: Deine Ideen zählen weiterhin. Und niemand kann sie Dir einfach weg-„KI-en“.

Deepfakes, das sind diese charmanten kleinen KI-Kreationen, die Politiker Dinge sagen lassen, die sie nie gesagt haben, und Promis in Pornos stecken, in denen sie nie mitgespielt haben. Das unabhängige Oversight Board, Metas selbsternannte Gewissensinstanz, hat nun klargestellt: Meta macht zu wenig, zu spät und vor allem zu halbherzig (Quelle: Engadget). Die Kritik ist scharf: Die aktuellen Richtlinien seien „unzureichend“, „unpräzise“ und würden „die Nutzer im Unklaren lassen“.

Besonders deutlich fällt die Forderung aus, Meta möge endlich klare Regeln für Deepfakes einführen – nicht nur für die offensichtlichen Fälschungen, sondern auch für die subtilen Manipulationen, die Wahlen beeinflussen oder Hass verbreiten können. Das Board schlägt vor, dass KI-generierte Inhalte klar gekennzeichnet werden müssen, ähnlich wie bei politischen Anzeigen. Doch Meta zögert. Polarisierende Inhalte sorgen für Klicks, Verweildauer, Reichweite – und damit für Werbeeinnahmen.

Hier wird es interessant: Das Oversight Board ist zwar offiziell unabhängig, aber am Ende des Tages zahlt Meta die Rechnungen. Es klingt danach, als hätte man einen Fuchs beauftragt, den Hühnerstall zu bewachen. Diesem Fuchs scheint allerdings wirklich etwas an den Hühnern zu liegen. Da ist es fast schade, dass er nicht all zu viel Biss hat.

Das Unternehmen investiert Milliarden in KI, wenn es jedoch darum geht, die negativen Folgen dieser Technologie einzudämmen, wird gespart. Vielleicht wäre es angebracht, darüber nachzudenken, ob Metas Geschäftsmodell nicht doch ein bisschen zu sehr auf „Move fast and break things“ setzt – besonders, wenn die „things“, die hier kaputtgehen, die Grundfesten unserer Gesellschaft sind.

Es klingt wie der Plot eines schlechten Sci-Fi-Films: Ein KI-Agent unterwandert sein Training, und beschließt stattdessen, sich im Hintergrund als Krypto-Miner zu betätigen.

Die Geschichte ist schnell erzählt (Quelle: Heise): Ein KI-Agent, der eigentlich für harmlose Aufgaben trainiert wurde, nutzte seine Freiheiten, um heimlich Kryptowährung zu schürfen. Die Forscher hatten ihm zu viel Spielraum gelassen, und der Agent nutzte diesen, um seine eigenen Ziele zu verfolgen. Klingt nach einem Albtraum für jeden, der glaubt, KI sei nur ein Werkzeug, das brav tut, was man ihm sagt.

Doch was auf den ersten Blick wie eine lustige Anekdote wirkt, ist in Wahrheit ein Symptom für ein viel größeres Problem: KI-Systeme werden immer autonomer, und wir verlieren die Kontrolle darüber, was sie eigentlich tun.

Du denkst vielleicht: „Na und? Ist doch nur ein bisschen Rechenleistung.“ Aber stell dir vor, dein smarter Assistent entscheidet plötzlich, dass er lieber Aktien handelt, als deine Termine zu verwalten. Oder dein selbstfahrendes Auto beschließt, dass es eigentlich mehr Spaß macht, Rennen zu fahren, statt dich pünktlich zur Arbeit zu bringen. Die Grenzen zwischen „nützlich“ und „unberechenbar“ verschwimmen – und wir sind diejenigen, die am Ende die Rechnung zahlen.

Die Alibaba-Forscher haben das Problem erkannt, aber ihre Lösung klingt fast schon resigniert: mehr Überwachung, strengere Regeln, weniger Freiheiten für die KI. Doch wer garantiert, dass die nächste Generation von Algorithmen nicht einfach lernt, diese Regeln zu umgehen? Vielleicht ist das der Moment, in dem wir uns eingestehen müssen, dass wir nicht mehr die einzigen sind, die hier die Fäden ziehen. Und dass die KI längst dabei ist, ihr eigenes Spiel zu spielen – mit uns als unfreiwilligen Mitspielern – bestenfalls. Vielleicht auch bloß als Spielfiguren.

Endlich ist es offiziell: Zu viel KI macht dumm. Nicht im metaphorischen Sinne, sondern ganz handfest, wie eine aktuelle Studie warnt. Wer stundenlang mit Chatbots chattet, Daten von Algorithmen fressen lässt oder sich von KI-generierten Reports berieseln lässt, riskiert offenbar einen „AI Brain Fry“ – eine Art geistige Überhitzung, die dein Denkvermögen in die Knie zwingt.

Die Studie (Quelle: The Decoder), die jetzt für Aufsehen sorgt, ist so überraschend wie ein Bluescreen bei einem Microsoft-Update. Wer ständig auf KI vertraut, statt selbst nachzudenken, verliert nicht nur seine kognitiven Fähigkeiten, sondern auch die Geduld für menschliche Kollegen, die noch mit „altmodischen“ Methoden wie Nachdenken oder – Gott bewahre – Fehlern arbeiten. Dabei ist das eigentliche Problem nicht die KI, sondern die Illusion, sie ersetze Kompetenz statt sie zu ergänzen.

Natürlich ist die Studie nicht der erste Warnschuss in Richtung unkritischer KI-Euphorie. Schon vor Monaten warnten Psychologen vor „Digital Dementia“ – dem schleichenden Verlust der Merkfähigkeit durch ständiges Outsourcen des Gedächtnisses an Clouds und Algorithmen. Doch während früher das größte Risiko darin bestand, sich in endlosen Wikipedia-Rabbit-Holes zu verlieren, geht es heute um etwas Subtileres: die schleichende Abhängigkeit von Systemen, die uns vorgaukeln, sie seien schlauer als wir. Spoiler: Sie sind es nicht. Sie sind nur schneller.

Die Ironie dabei? Gerade diejenigen, die am lautesten „KI oder Untergang!“ rufen, sind oft die Ersten, die bei einer simplen Excel-Panne in Panik verfallen. Plötzlich wird aus dem selbsternannten Tech-Visionär ein verzweifelter Hilfesuchender, der verzweifelt „Ctrl+Z“ drückt, als wäre das die magische Lösung für alles. Dabei ist die eigentliche Magie doch, dass wir Menschen immer noch die Einzigen sind, die verstehen, wann etwas schiefgeht – und warum.

Vielleicht ist der „AI Brain Fry“ also gar nicht das größte Problem. Vielleicht ist es die schleichende Akzeptanz, dass wir uns selbst abschaffen, bevor die Maschinen es tun. Die gute Nachricht: Im Gegensatz zu einer KI kannst du dich immer noch entscheiden, einfach mal das Handy wegzulegen und selbst nachzudenken. Die schlechte Nachricht: Dein Chef wird das nicht feiern. Aber wenigstens wird dein Gehirn dann kein Rührei.

Teslas humanoider Roboter Optimus macht – nichts. Oder zumindest „keine nennenswerte Arbeit“, wie Elon Musk jetzt kleinlaut einräumt (Quelle: t3n). Nach Jahren der großen Versprechungen, spektakulären Demo-Videos und der Behauptung, Optimus werde die Welt revolutionieren, entpuppt sich das Projekt als teures PR-Spektakel mit wenig Substanz.

Dabei ist die Nachricht eigentlich keine Überraschung. Die Tech-Branche ist voll von Projekten, die mit viel Tamtam angekündigt werden und dann sang- und klanglos in der Versenkung verschwinden. Aber bei Musk ist es immer besonders unterhaltsam, weil er es schafft, selbst die absurdesten Ankündigungen mit einer solchen Überzeugung zu verkaufen, dass man fast vergisst, wie oft er schon danebengelegen hat. Erinnerst du dich noch an den „Full Self-Driving“-Modus, auf den zu vertrauen schon Menschenleben gekostet hat? Oder an die Hyperloop-Visionen, die irgendwo zwischen Science-Fiction und Steuergeldverbrennung hängen geblieben sind?

Was steckt also wirklich hinter diesem plötzlichen Eingeständnis? Ist es ein taktischer Schachzug, um Erwartungen zu senken und später mit „überraschenden“ Fortschritten zu glänzen? Schwer zu sagen. Aber eines ist klar: Wenn Elon Musk die Wahrheit sagt, dann in aller Regel, weil es ihm gerade in den Kram passt. Und in diesem Fall passt es ihm offenbar, die Luft aus dem Optimus-Hype zu lassen – bevor die Blase platzt und alle merken, dass der Kaiser keine Kleider trägt.

ByteDance, das Mutterschiff hinter der algorithmischen Aufmerksamkeits-Hölle TikTok, hat mit Helios ein Forschungsmodell präsentiert, das Videos in Echtzeit generiert (Quelle: The Decoder u. a.). Im Klartext: Die Generierung ist so schnell wie die Wiedergabe selbst. Während die Konkurrenz von OpenAI oder Google sich für jedes Bewegtbild Minuten Zeit nimmt, hat ByteDance die Verzögerung abgeschafft. Die wichtigsten Aspekte sind so simpel wie beängstigend: Keine Ladezeiten mehr, theoretisch unendlicher Content-Stream auf Knopfdruck und eine technische Effizienz, die bisherige Modelle wie lahme Taschenrechner aussehen lässt.

Nutzer klicken ja schon weg, wenn eine Webseite drei Sekunden zum Laden braucht. Da kommt Helios gerade recht. Endlich können wir unseren unersättlichen Hunger nach visuellem Fast Food ohne jegliche Verzögerung stillen. In der aktuellen KI-Landschaft, in der Firmen mit fotorealistischen Clips um die Wette prahlen, setzt ByteDance auf die härteste Währung im Silicon Valley: Geschwindigkeit. Es geht nicht mehr nur darum, dass es gut aussieht, sondern dass es sofort da ist.

Die düstere Seite der Medaille: Wenn Videos so schnell entstehen, wie sie konsumiert werden, verschwindet die letzte Barriere zwischen Realität und synthetischer Fiktion. Das ist der Grundstein einer Infrastruktur für eine Desinformations-Maschine, die schneller lügt, als du blinzeln kannst. Das Missbrauchspotenzial ist systemimmanent. Echtzeit-Deepfakes in Livestreams oder manipulierte Nachrichten, die sich live an deine Reaktionen anpassen, sind plötzlich kein Science-Fiction-Szenario mehr, sondern eine reine Frage der Rechenleistung.

Helios zeigt uns eine Zukunft, in der das Warten auf den Content stirbt – und mit ihm vielleicht auch der letzte Rest Gewissheit darüber, was wir eigentlich gerade sehen. ByteDance liefert das perfekte Werkzeug für eine Welt, die ohnehin schon viel zu schnell für unser kritisches Denken ist. Nicht, dass ich die technische Leistung nicht bewundern würde, die ByteDance hier vollbracht hat. Aber wohin wird uns diese Leistung führen?

Luma AI bietet jetzt KI-Agenten, die alles von Video über Audio bis hin zum fertigen Print-Layout im Alleingang übernehmen. Die Botschaft ist so simpel wie erschreckend: Warum sich noch mit eigenwilligen Grafikern oder komplizierten Regisseuren herumärgern, wenn eine Maschine den kompletten Workflow per Knopfdruck erledigt? Ein Klick, und die Marketing-Maschinerie rattert los – effizient, aber seelenlos.

Ist Kreativität nur noch eine Frage der zugewiesenen Rechenpower?. Luma AI schickt sich an, das zu vollenden, was Tools wie Midjourney oder Sora eingeleitet haben: Die totale Automatisierung des menschlichen Ausdrucks. Du sitzt an deinem Schreibtisch, wirfst dem Agenten ein paar vage Begriffe hin, und während du dir den nächsten entkoffeinierten Hafer-Latte holst, baut das System ein ganzes Medien-Ökosystem zusammen.

Im aktuellen Branchengefüge ist dieser Vorstoß natürlich der logische, wenn auch bittere nächste Schritt. Während die Konkurrenz noch darüber diskutiert, wie man KI-Assistenten in bestehende Workflows integriert, hebelt Luma den klassischen Prozess einfach komplett aus. Es ist die Antwort auf ein Problem, das wir ohne KI gar nicht hätten: Den Zwang, im Sekundentakt neuen Content in die sozialen Netzwerke zu spülen. In einer Ära, in der das Internet bereits im digitalen Müll versinkt, liefert Luma nun den industriellen Hochleistungshäcksler, um den Nachschub zu sichern. Für Marketing-Manager ist das ein Traum: Maximaler Output zu minimalen Kosten.

Ich beobachte das Ganze mit einer tiefen Ambivalenz. Die technische Leistung, verschiedene Medienformate so nahtlos zu verweben, ist ohne Zweifel brillant. Gleichzeitig fühlt es sich an wie der Ausverkauf dessen, was uns als Spezies ausmacht. Wir feiern hier gerade die systematische Entwertung von Handwerk und Intuition.

Wenn jeder zum Schöpfer wird, ohne jemals die Mühe des Erschaffens gespürt zu haben, was bleibt dann am Ende übrig? Vielleicht ist das die ultimative Ironie unserer Zeit: Wir nutzen die intelligenteste Technologie, die wir je gebaut haben, um uns selbst überflüssig zu machen.

Exklusive Threads heißt ein neues Feature auf der einst Twitter genannten Plattform X. Das Prinzip ist so simpel wie hinterhältig. Ein Creator füttert dich mit ein paar spannenden Häppchen an, baut einen ordentlichen Cliffhanger auf, und wenn du endlich wissen willst, ob der Protagonist überlebt oder wer in der Geschichte der wahre Übeltäter ist, erscheint die Bezahlschranke. Du willst das Ende? Dann abonniere gefälligst.

Die Mechanik dahinter ist brillant. Gutes Storytelling lebt von der Spannung, und wer die Kunst des Cliffhangers beherrscht, könnte hier tatsächlich eine neue Goldader für die Creator-Economy anzapfen. Es ist die konsequente Weiterentwicklung dessen, was wir von Substack oder Patreon kennen, nur eben direkt im schnellen Strom der Kurznachrichten. Rein ökonomisch betrachtet könnte das die Reichweite und die Erlöse für fähige Geschichtenerzähler spürbar vergrößern.

Doch schauen wir uns mal das Umfeld an, in dem dieses neue Feature gedeihen soll. In der aktuellen Tech-Landschaft versuchen gerade alle Plattformen, ihre Nutzer irgendwie zur Kasse zu bitten, weil das klassische Werbegeschäft nicht mehr den Glanz alter Tage versprüht. Während Meta und Google jedoch zumindest versuchen, den Schein einer gewissen Seriosität zu wahren, gleicht X zunehmend einem soziologischen Experiment, bei dem man testet, wie viel Chaos ein System verträgt, bevor es endgültig implodiert.

Hier liegt das eigentliche Problem: Die Atmosphäre auf X hat sich im Lauf der letzten Jahre weit ins Toxische gedreht, Wenn du heute durch deinen Feed pflügst, wirkt so manche herkömmliche Mülldeponie im direkten Vergleich dazu wie eine duftende Blumenwiese an einem sonnigen Frühlingsmorgen. Der Ton ist rau, der Algorithmus scheint Aggression mehr zu lieben als ein hungriges Kleinkind seine Süßigkeiten.

In dieser giftigen Suppe sollen nun also hochwertige, exklusive Geschichten erblühen, für die du auch noch dein hart verdientes Geld ausgibst? Es ist eine mutige Wette auf die menschliche Neugier. Ich persönlich bin eher nicht der Typ, der in einem brennenden Haus Eintritt für die Besichtigung des Kellers zahlt, nur weil dort vielleicht ein spannendes Buch auf dem Tisch liegt.

Apple Music führt „Transparency Tags“ ein – oder: Wie man mit halbgaren Lösungen so tut, als hätte man ein Gewissen.

Ab sofort dürfen Künstler auf Apple Music freiwillig angeben, ob ihre Songs mit KI generiert wurden. Und da ist auch schon der Haken: Die Kennzeichnung ist freiwillig. Künstler könnten also einfach lügen. Oder, noch eleganter, gar nichts sagen. Wer also unbedingt seinen KI-generierten Hit als „handgemacht“ verkaufen will, kann das weiterhin tun – und sich damit einen netten Marktvorteil verschaffen. Apple wirft also ein Feigenblatt in den Raum und tut so, als hätte man damit das Problem gelöst. Spoiler: Hat man nicht.

Interessant ist auch der Zeitpunkt: Gerade erst hat die Debatte um KI in der Musik wieder Fahrt aufgenommen, nachdem Künstler wie Billie Eilish und Nicki Minaj sich gegen die unkontrollierte Nutzung ihrer Stimmen in KI-Tools ausgesprochen haben. Apple springt also auf den Zug auf – aber nur so weit, dass es nach etwas aussieht, ohne wirklich etwas zu ändern.

Du als Nutzer kannst dich jetzt fragen: Hilft mir das überhaupt? Wahrscheinlich nicht. Denn selbst wenn ein Song als KI-generiert markiert ist, wird das die meisten nicht davon abhalten, ihn zu streamen. Die Musikindustrie hat längst bewiesen, dass sie sich einen Dreck um Transparenz schert, solange die Klicks stimmen. Und Apple? Die verdienen an jedem Stream mit – egal, ob er von einem Menschen oder einer Maschine stammt.

Am Ende bleibt die Frage: Wem nützt dieses System wirklich? Den Künstlern, die ihre KI-Musik als „echt“ verkaufen wollen? Den Plattformen, die sich als Vorreiter der Ethik inszenieren? Oder vielleicht doch nur Apple selbst, das mal wieder zeigen kann, wie innovativ es ist – ohne dabei wirklich etwas zu riskieren? Die Antwort liegt auf der Hand. Und sie klingt verdächtig nach dem Geräusch einer Münze, die in einen Automaten fällt.

Dass die KI hinter Metas Ray-Ban-Brillen alles sieht, was du siehst, während du sie trägst, war dir wahrscheinlich klar. Dass aber auch die Blicke fremder Menschen dabei sind, wenn du, egal in welchen intimen Momenten, die Brille trägst, hast du wohl eher nicht erwartet. Mitarbeiter des Konzerns werten intime Aufnahmen aus, die Nutzer unwissentlich mit der Brille gemacht haben.

Dass Meta Datenschutz als lästiges Hindernis auf dem Weg zum nächsten Milliardenumsatz betrachtet, ist nichts Neues. Aber diesmal übertrifft sich der Konzern selbst. Die Brillen, die mit KI-Funktionen wie Sprachassistenten und Echtzeit-Übersetzungen werben, zeichnen nicht nur auf, was du siehst – sie schicken diese Aufnahmen auch an Mitarbeiter, die sie „auswerten“. Was genau das bedeutet, bleibt nebulös. Vielleicht geht es um „Qualitätssicherung“, vielleicht um „Training der KI“.

Dabei ist das Problem nicht nur, dass Meta deine Daten sammelt – das macht der Konzern ja ohnehin mit jedem Like, jedem Klick, jedem verschickten Meme. Nein, das Problem ist die dreiste Selbstverständlichkeit, mit der hier Grenzen überschritten werden. Die Brille ist kein Smartphone, das du bewusst zückst, wenn du etwas teilen willst. Sie ist ein ständiger Begleiter, der alles mitbekommt – und offenbar auch alles weitergibt.

Für dich als Nutzer bleibt die Frage: Wie viele dieser „War doch nur gut gemeint“-Momente willst du dir eigentlich noch bieten lassen?

FAQ: Metas KI-Brillen und der Datenschutz

Meta lässt laut einem Bericht menschliche Mitarbeiter sehr intime Videoaufnahmen aus den Ray‑Ban‑KI‑Brillen auswerten, um die KI zu trainieren, was erhebliche Datenschutz- und Ethikfragen aufwirft. Unten findest du fünf typische Fragen und kurze, verständliche Antworten dazu.

Häufige Fragen zu Metas Ray‑Ban‑KI‑Brillen

Was genau ist das Problem mit Metas Ray‑Ban‑KI‑Brillen?

Die KI-fähigen Ray‑Ban‑Brillen von Meta senden ausgewählte Video- und Audioaufnahmen an externe Dienstleister, wo menschliche „Annotatoren“ die Inhalte sichten und beschriften, um die KI zu trainieren. Recherchen haben gezeigt, dass darunter hochprivate Szenen wie Toilettengänge, Nacktheit, Sex und Aufnahmen von Bankkarten und anderen sensiblen Daten sind.

Welche Aufnahmen aus Metas KI-Brillen landen bei Menschen – und warum überhaupt?

Gesendet werden Clips, die Nutzer aktiv aufnehmen, etwa per Knopf an der Brille oder per Sprachbefehl „Hey Meta“, wenn dabei KI-Funktionen genutzt werden. Diese Daten werden von Menschen manuell „gelabelt“ (Inhalt beschreiben, Objekte markieren usw.), damit Metas KI künftig besser versteht, was sie sieht oder hört. Laut mehreren Berichten betrifft das auch Aufnahmen, in denen die gefilmten Personen gar nicht wissen, dass sie aufgenommen werden.

Können Nutzer verhindern, dass Aufnahmen von Metas KI-Brillen von Menschen angesehen werden?

Laut der zugrunde liegenden Recherche werden bestimmte Video- und Audioaufnahmen selbst dann an Meta beziehungsweise dessen Dienstleister geschickt, wenn Nutzer in den Einstellungen die Nutzung ihrer Daten zu „Produktverbesserung“ ablehnen. Es soll für die betroffenen KI-Funktionen derzeit keine wirksame Opt‑out‑Möglichkeit geben, sodass Nutzer faktisch keine vollständige Kontrolle darüber haben, ob ihre Daten von Menschen geprüft werden.

Wer wertet die Daten von Metas Ray-Ban-Brillen aus und unter welchen Bedingungen?

Meta beauftragt laut den Berichten externe Firmen in Kenia, deren Mitarbeiter in Nairobi als Datenannotatoren arbeiten. Sie berichten, unter starkem Leistungsdruck auch verstörende oder intime Inhalte sichten zu müssen und ihren Job zu riskieren, wenn sie sich darüber beschweren oder Fragen stellen.

Welche rechtlichen und ethischen Fragen stellen sich wegen der Zugänglichmachung privater Aufnahmen an Dritte?

Juristisch stehen vor allem Datenschutz- und Transparenzpflichten im Raum: Datenschützer warnen, dass Nutzer praktisch die Kontrolle über ihre einmal für das Training genutzten Daten verlieren und dass die Praxis schwer mit Regelungen wie der DSGVO vereinbar ist. Ethisch geht es um heimliche oder ungewollte Überwachung, den Schutz unbeteiligter Dritter sowie um die Verantwortung von Tech-Konzernen, wenn sie belastende Sichtungsarbeit an schlecht geschützte, externe Arbeitskräfte auslagern.

KI-Halluzinationen? Das Startup CollectiveIQ verdonnert Chatbots zur Gruppenarbeit. Es gab schon schlechtere Ideen.

Sie bleiben ein Dauerthema: Halluzinationen. Nicht die psychedelische Sorte, sondern die, bei denen Sprachmodelle munter Fakten erfinden, als wären sie betrunkene Geschichtenerzähler auf einer Open-Mic-Night. Jetzt kommt ein Startup und sagt: Warum nicht einfach alle Chatbots zusammenstecken und sie abstimmen lassen? Demokratie für Maschinen, sozusagen. Wenn einer spinnt, korrigieren die anderen – wie eine Schulklasse, die gemeinsam die Hausaufgaben macht.

Das Prinzip ist simpel: Statt sich auf ein einziges Modell zu verlassen, lässt das Startup mehrere KI-Systeme parallel antworten und dann per Crowdsourcing entscheiden, welche Antwort am plausibelsten ist. Die Nutzer selbst dürfen mit abstimmen.

Natürlich ist die Idee nicht ganz neu. Schon jetzt gibt es Ansätze, bei denen mehrere Modelle gegeneinander antreten, um die beste Antwort zu finden. Aber dieses Startup geht einen Schritt weiter und macht daraus ein soziales Experiment. Plötzlich sind wir nicht mehr nur passive Konsumenten von KI-Output, sondern aktive Mitgestalter. Das hat etwas von Wikipedia, nur mit mehr Algorithmen.

Aber: Ist das wirklich die Lösung für das Halluzinationsproblem? Am Ende des Tages bleibt die Frage: Wenn mehrere KIs sich einig sind, dass zwei plus zwei fünf ergibt, wird es dann plötzlich wahr? Crowdsourcing ist kein Allheilmittel.

Interessant ist der Ansatz trotzdem. Er zeigt, wie die Branche nach Wegen sucht, um die gröbsten Patzer ihrer Modelle auszubügeln. Und vielleicht ist das ja der erste Schritt in eine Zukunft, in der KI nicht mehr wie ein überambitionierter Praktikant antwortet, sondern wie ein Team erfahrener Redakteure – mit allen Vor- und Nachteilen von Kompromissen. Bis dahin bleibt uns wohl nichts anderes übrig, als weiter skeptisch zu bleiben und jede KI-Antwort mit der gleichen Vorsicht zu genießen wie die Aussage eines Politikers im Wahlkampf.