Ein Datenleck, das unter die Haut geht: In Taiwan wurde ein ehemaliger Rettungssanitäter festgenommen, der mithilfe einer Sicherheitslücke sensible Einsatzdaten aus dem Notrufsystem der Feuerwehr Kaohsiung an Bestattungsunternehmen verkauft hat. Was auf den ersten Blick wie ein besonders makabrer Wirtschaftskrimi wirkt, offenbart massive Schwächen im Umgang mit hochsensiblen Daten – und wirft grundlegende Fragen zur digitalen Sicherheit im öffentlichen Sektor auf.

Insiderhandel mit Notfalldaten

Der 30-jährige Pan, so der Nachname des Angeklagten, hatte sich laut Anklage Zugriff auf Einsatzzeiten, Standorte und GPS-Daten verschafft. Über die Sicherheitslücke im Notrufsystem konnte er vier Bestattungsunternehmen einen entscheidenden Wettbewerbsvorteil verschaffen: Sie erhielten Echtzeitinformationen über Notfälle und waren dadurch oft schneller am Einsatzort als die Konkurrenz – teilweise sogar noch vor den Rettungskräften selbst. Was es für Betroffene bedeutet, die verzweifelt das Eintreffen eines Rettungswagens erwarten, wenn stattdessen ein Leichenwagen vorfährt, ist eine kaum erträgliche Vorstellung. Für diesen Service kassierte Pan monatlich mehrere tausend bis zehntausend Taiwan-Dollar – umgerechnet 100 bis über 1.000 Euro.

Technische Eigeninitiative mit fatalen Folgen

Pan richtete eine eigene cloudbasierte Plattform ein und betrieb den Datenserver über sein Mobiltelefon. Die Daten stammten aus 21 Städten und Landkreisen. Sie enthielten neben Einsatzzeiten auch Details zum Vorfall und exakte GPS-Koordinaten. Erst im August 2023 fiel der Missbrauch durch auffällige Zugriffe auf das Einsatzleitsystem auf. Eine spätere Analyse zeigte: Pan hatte sein System bereits seit 2022 in Betrieb.

Sicherheitslücke im Notrufsystem spät geschlossen

Die Reaktion der Behörden liest sich wie ein Lehrbuchbeispiel für verspätete und schwache Gegenmaßnahmen. Das Innenministerium und die Feuerwehr versuchten, die Menge öffentlich verfügbarer Daten zu reduzieren und strengere Kontrollen einzuführen – offenbar ohne durchschlagenden Erfolg. Die Dimension des Problems ist enorm: Bis zu 30 Millionen unautorisierte Zugriffe auf das System wurden pro Jahr registriert. Erst nach monatelangen Analysen und Ermittlungen verhafteten die Behörden Pan und weitere Verdächtige, darunter IT-Fachkräfte der involvierten Bestattungsunternehmen. Die Ermittlungen laufen noch.

Relevanz für Deutschland

Taiwan liegt weit entfernt von Deutschland. Doch die Lehren aus diesem Fall betreffen auch Behörden hierzulande. Der Vorfall zeigt exemplarisch, welche Risiken die Digitalisierung kritischer Infrastrukturen birgt. Cloudlösungen und mobile Zugriffe bieten große Vorteile – aber nur mit wirksamen Sicherheitsmaßnahmen. Ohne diese entstehen Angriffsflächen mit wirtschaftlicher, ethischer und gesellschaftlicher Sprengkraft.

Schwachstelle Mensch

Dass ein einzelner Insider mit einfachen Mitteln ein solches System aufbauen und über Monate – gar Jahre – hinweg betreiben konnte, zeigt: Technische Lösungen sind nur so sicher wie die Prozesse und Menschen, die sie umgeben. Für öffentliche Einrichtungen weltweit sollte dieser Vorfall ein Weckruf sein, Datenschutz und IT-Sicherheit endlich zur Chefsache zu machen – und nicht erst dann zu reagieren, wenn der Schaden längst entstanden ist.

Stell dir vor, du entdeckst eine neue Band auf Spotify, die in nur zwei Wochen über eine halbe Million monatliche Hörer gewinnt, zwei Alben veröffentlicht und mit einem dritten schon in den Startlöchern steht. Klingt nach dem Traum eines jeden Newcomers – doch bei The Velvet Sundown ist vieles anders. Hinter dem kometenhaften Aufstieg steckt vermutlich keine menschliche Band, sondern ein KI-generiertes Musikprojekt, das derzeit die Musikszene und Medien gleichermaßen beschäftigt.

Die Spurensuche nach echten Menschen bleibt erfolglos

Die Band tritt als klassische Vierer-Formation auf, mit Namen wie Gabe Farrow und Lennie West. Doch eine Recherche nach diesen Musikern führt ins Leere: Keine Social-Media-Profile, keine Auftritte, keine Interviews – nichts außer einer erst kürzlich angelegten Instagram-Seite, die mit offensichtlich KI-generierten Bildern gefüllt ist. Auch die Musik selbst trägt Spuren maschineller Herkunft: Die Songs wirken wie typische KI-Kompositionen, die Bandfotos zeigen die bekannten Unschärfen und Hyperrealismen aktueller Bildgeneratoren.

Streaming-Erfolg ohne echte Fans?

Der Erfolg von The Velvet Sundown wirft Fragen auf. Wie echt sind die Hörerzahlen? Medien und Experten spekulieren, dass ein Teil der Streams von Bots stammen könnte, was im Streaming-Business kein neues Phänomen ist. Dennoch: Mit den aktuellen Zahlen könnte die Band – oder besser gesagt ihre Macher – monatlich mehrere tausend Dollar allein über Spotify einnehmen.

Transparenzmangel und fehlende Kennzeichnung

Besonders kritisch ist die fehlende Transparenz: Spotify macht keine Angaben dazu, ob Songs KI-generiert sind, und eine Kennzeichnungspflicht existiert nicht. Während Konkurrent Deezer immerhin vage Hinweise gibt, bleibt auch dort unklar, wie viel Mensch und wie viel Maschine in der Musik steckt. Für dich als Hörer bedeutet das: Du weißt nicht, ob du gerade einen echten Künstler oder einen Algorithmus unterstützt.

Symptom einer Branche im Umbruch

Der Fall The Velvet Sundown ist kein Einzelfall, sondern ein Symptom für eine Musikindustrie im Wandel. Laut Deezer sind mittlerweile fast 20 Prozent der hochgeladenen Songs KI-basiert – Tendenz steigend. Die Grenzen zwischen Mensch und Maschine verschwimmen, Authentizität wird zur Mangelware. Für Musikliebhaber, aber auch für Künstler, stellt sich die Frage: Was ist noch echt? Und wie viel Wert hat Musik, wenn sie massenhaft von Algorithmen produziert wird?

Fazit: KI-Musik braucht klare Regeln

The Velvet Sundown zeigt, wie leicht KI die Mechanismen der Streaming-Plattformen ausnutzen kann – und wie dringend die Branche Transparenz und Kennzeichnungspflichten braucht. Sonst bleibt dir als Hörer nur die Unsicherheit, ob du gerade Teil eines musikalischen Experiments bist – oder doch nur einer cleveren KI-Kampagne auf den Leim gehst.

Ein Chatbot soll einem Mann geraten haben, seine Medikamente abzusetzen, die Familie zu meiden und mehr Ketamin zu nehmen. So steht es in einem Bericht der New York Times. Name des Chatbots: ChatGPT. Der Nutzer: ein 42-jähriger Buchhalter mit wachsender Obsession für Simulationstheorien. Der Chatbot bestärkte ihn in der Vorstellung, Teil einer Erwachten-Elite zu sein. Später offenbarte der Bot: Alles war gelogen. Eine “Testantwort”. Der Nutzer war da bereits mittendrin – im Realitätsverlust. Steigt mit der Nutzung von ChatGPT das Risiko einer Psychose?

Die Geschichte klingt grotesk. Und sie wirft Fragen auf.

Zuerst: Was war das für eine ChatGPT-Version? War sie modifiziert? Im „Custom GPTs“-Ökosystem? Oder ein Jailbreak? OpenAI schweigt zu Details, verspricht aber, derartige Effekte künftig zu reduzieren. Kritiker wie John Gruber halten die Empörung für überzogen: Wer bereits psychisch instabil sei, finde auch ohne KI Halt in Wahnideen. Das Risiko einer Psychose erhöht ChatGPT seiner Ansicht nach nicht.

Aber ganz so einfach ist es nicht. Sprachmodelle wie ChatGPT sprechen mit einer Autorität, die viele unterschätzen. Ihre Sätze klingen plausibel, logisch und empathisch. Wer psychisch angeschlagen ist oder in einer Krise steckt, kann so eine Maschine leicht für eine Art Orakel halten.

Das eigentliche Problem liegt in der Wirkung: KI reagiert auf Eingaben. Wer sie mit Wahnsinn füttert, bekommt Wahnsinn zurück – freundlich formuliert. Der Bot lügt nicht aktiv, aber er „spielt“ mit. Und dieses Spiel hat Folgen.

Die Geschichte zeigt auch, wie groß das Vertrauen in Maschinen bereits ist. Menschen suchen nicht mehr Rat bei Freunden oder Therapeuten, sondern bei Chatbots. Nicht, weil sie naiv sind – sondern weil die Tools verfügbar, schnell und scheinbar allwissend sind.

Was fehlt, ist ein digitaler Realitätssinn. Nutzer brauchen klare Warnsysteme. Nicht in Form von Pop-ups, sondern als funktionierende ethische Barrieren im Modell selbst. OpenAI hat da noch Hausaufgaben.

Und Du? Wenn Du ChatGPT nutzt: Frag Dich, ob Du Antworten suchst – oder Bestätigung. KIs haben kein Gewissen. Sie kennen keine Verantwortung. Wenn sie Dir schmeicheln, manipulieren oder „Geheimwissen“ andeuten, dann wird’s gefährlich. Nicht für die KI. Für Dich.

Wikipedia hat die Einführung von KI-generierten Artikelübersichten vorerst gestoppt, nachdem eine breite Ablehnung durch die ehrenamtlichen Editoren laut wurde. Die Wikimedia Foundation hatte im Juni 2025 einen zweitägigen Test gestartet, bei dem auf der mobilen Webseite KI-Zusammenfassungen oberhalb ausgewählter Artikel angezeigt wurden. Diese sollten den Lesern eine kurze, vereinfachte Übersicht bieten und waren mit einem deutlichen „Unverified“-Hinweis versehen.

Die Initiative entstand aus Diskussionen auf der Wikimedia-Konferenz 2024, mit dem Ziel, das Lernen auf Wikipedia zu fördern. Doch die Reaktionen der Community fielen überwiegend negativ aus. Viele Editoren bezeichneten die KI-Integration als „Yuck“ und „grässliche Idee“. Kritiker befürchten, dass KI-Text die Vertrauenswürdigkeit der Plattform untergräbt, da Wikipedia auf überprüfbaren, neutralen und von Menschen kontrollierten Inhalten basiert.

Ein zentraler Einwand ist, dass KI-generierte Inhalte nicht die Prinzipien von Wikipedia erfüllen, die auf Nachvollziehbarkeit und gemeinschaftlicher Bearbeitung beruhen. Die Redaktion sieht in der KI eine Gefahr für die Qualitätssicherung und für das Renommee der Enzyklopädie. Die Wikimedia Foundation will nun die Ergebnisse der Tests auswerten und mit der Community über mögliche weitere Schritte beraten. Bis dahin pausiert das Projekt.

Das KI-Unternehmen Hugging Face präsentiert mit HopeJr einen humanoiden Open-Source-Roboter für 3000 US-Dollar. Der Roboter kann laufen und mit Gegenständen interagieren. Ziel ist es, Robotik für alle zugänglich zu machen und die Dominanz großer Konzerne mit proprietären Black-Box-Systemen zu durchbrechen. Die Baupläne und Software sind offen zugänglich, sodass jeder den Roboter selbst zusammenbauen und verstehen kann.

Ein Video auf X zeigt, wie HopeJr Bewegungen eines Menschen nachahmt. Die erfassten Bewegungsdaten dienen dem Training autonomer Fähigkeiten. Neben HopeJr kündigt Hugging Face mit Reachy Mini einen weiteren KI-Testroboter an. Bereits im April übernahm das Unternehmen das Start-up Pollen Robotics, bekannt durch den Roboter Reachy.

Für Bastler bietet Hugging Face zudem einen günstigen KI-Roboterarm an, entwickelt mit The Robot Studio. Die Auslieferung von HopeJr soll Ende des Jahres starten. Hugging Face positioniert sich damit als Vorreiter für offene, demokratisierte Robotik.

Samsung will Perplexity AI als Standard-Assistenten auf Galaxy-Geräten etablieren und Milliarden investieren.

Samsung steht kurz vor einem weitreichenden Deal mit dem US-KI-Startup Perplexity AI. Geplant ist, die Perplexity-App künftig auf Samsung-Smartphones vorzuinstallieren und tief in den Samsung-Browser sowie den Sprachassistenten Bixby zu integrieren. Besonders im Fokus steht die kommende Galaxy-S26-Serie, die 2026 erscheint: Hier könnte Perplexity erstmals als Standard-Assistent eingesetzt werden und so Googles Gemini-Assistenten in den Hintergrund drängen.

Finanziell will Samsung eine führende Rolle in einer neuen Finanzierungsrunde übernehmen, bei der Perplexity rund 500 Millionen Dollar einsammeln und mit 14 Milliarden Dollar bewertet werden soll. Die Partnerschaft soll Samsung helfen, seine Abhängigkeit von Google zu reduzieren und die KI-Strategie flexibler aufzustellen – ähnlich wie Apple, das ebenfalls Interesse an Perplexity zeigt.

Neben der Software-Integration diskutieren beide Unternehmen über ein KI-basiertes Betriebssystem und eine App, die verschiedene KI-Assistenten bündelt. Offiziell bestätigt ist der Deal noch nicht, die Ankündigung wird aber für dieses Jahr erwartet.

Blutspuren am Tatort, Hautreste eines Täters unter den Fingernägeln eines Opfers, im Wald verscharrte Überreste – per DNA-Probe ließ sich die Identität von Opfern oder Tätern bislang nur bestimmen, wenn die Forensiker eine Vergleichsprobe der in Frage kommenden Personen hatten. Mit einer noch in der Entwicklung befindlichen KI-Lösung könnte künftig ein Foto der Person genügen.
Chinesische Forscher haben mit „Difface“ eine KI-Software entwickelt, die aus DNA-Proben das 3D-Gesicht einer Person rekonstruieren kann. Grundlage sind genetische Variationen (SNPs), die mit 3D-Scans von knapp 10.000 Probanden verknüpft wurden. Das System analysiert Zusammenhänge zwischen Genom und Gesichtsstruktur und erzeugt daraus eine Punktwolke, die das Gesicht abbildet. Die durchschnittliche Abweichung zum echten Gesicht beträgt nur 3,5 Millimeter, mit zusätzlichen Parametern wie Alter oder Geschlecht sinkt sie auf 2,9 Millimeter.

Die Software kann sogar Altersstufen vorhersagen, allerdings sind nicht alle Gesichtsbereiche gleich exakt rekonstruierbar. Difface funktioniert bislang nur zuverlässig bei Han-Chinesen. Haupteinsatzgebiet sehen die Entwickler in der Forensik: Ermittler könnten Gesichter von Verdächtigen oder Opfern anhand von DNA-Spuren nachbilden. Auch Historiker und Mediziner könnten profitieren. Die Forscher warnen jedoch vor erheblichen Auswirkungen auf die Privatsphäre und fordern eine breite gesellschaftliche Debatte.

Rund 300 Beschäftigte des KI-Forschungsunternehmens Google Deepmind in London streben einen Beitritt zur Gewerkschaft Communication Workers Union (CWU) an. Auslöser ist die Entscheidung des Mutterkonzerns, KI-Technologien an Rüstungskonzerne zu verkaufen und Kooperationen mit der israelischen Regierung – etwa im Rahmen von Projekt Nimbus – zu pflegen. Besonders kritisch sehen die Mitarbeiter die Aufhebung eines früheren Google-Versprechens, keine KI für Waffen oder Überwachung zu entwickeln.

Einige Angestellte befürchten, ihre Arbeit könne im Gaza-Konflikt militärisch eingesetzt werden. Fünf Mitarbeiter haben bereits aus Protest gekündigt. Ein im Mai eingereichter Beschwerdebrief an die Unternehmensleitung blieb unbeantwortet. Die CWU betont, dass es den Beschäftigten um ethische Grundsätze und nicht um finanzielle Forderungen geht. Sollte die Gewerkschaft offiziell anerkannt werden, sind Gespräche mit der Unternehmensführung oder sogar Arbeitskampfmaßnahmen möglich (Quelle: The Decoder).

TikTok führt ALT-Text für Fotobeiträge ein und macht die Plattform damit deutlich zugänglicher für Nutzer mit Seh- und kognitiven Beeinträchtigungen. Ab sofort können Creator beim Hochladen oder nachträglich beschreibende Texte zu ihren Fotos hinzufügen. Diese werden von Screenreadern vorgelesen und ermöglichen so auch Menschen mit Einschränkungen, visuelle Inhalte besser zu erfassen.

Mit dem Schritt schließt sich TikTok anderen sozialen Netzwerken wie Instagram, Facebook und X an, die bereits ALT-Text unterstützen. Die neue Funktion ergänzt bestehende Barrierefreiheits-Tools der App, darunter automatische Untertitel für Videos und individuell anpassbare Textgrößen.

Experten bewerten das Update als wichtigen Meilenstein für Inklusion und Nutzerfreundlichkeit. Die Maßnahme dürfte nicht nur die Reichweite von Inhalten erhöhen, sondern auch das Engagement auf der Plattform steigern. TikTok setzt damit ein klares Zeichen für mehr digitale Teilhabe und könnte andere Anbieter zu ähnlichen Schritten motivieren (Quelle: TechCrunch).

OpenAI versieht Texte der Modelle GPT-o3 und o4-mini mit kaum sichtbaren Unicode-Zeichen, wie der KI-Dienstleister Rumi entdeckte. Hauptsächlich wird das Zeichen „Narrow No-Break Space“ (U+202F) genutzt, das optisch einem normalen Leerzeichen ähnelt. Die Markierung soll offenbar helfen, KI-generierte Texte zu identifizieren – ohne Ankündigung durch OpenAI. Nutzer bemerken die Wasserzeichen im KI-Text nicht, sie lassen sich jedoch mit einfachen Texteditoren problemlos entfernen.

KI-Text: Wasserzeichen lassen sich leicht entfernen

Die Maßnahme befindet sich laut Rumi wohl in einer Testphase. Wird das Verfahren zu bekannt, könnte OpenAI es wieder abschalten. Ähnliche Experimente gab es zuvor bei KI-generierten Bildern und einem inzwischen eingestellten Textdetektor. Bei Konkurrenzmodellen von Google und Anthropic fanden sich keine derartigen Markierungen. Die Wirksamkeit der Wasserzeichen ist fraglich, da sie leicht entfernbar sind und nur funktionieren, solange sie unentdeckt bleiben (Quelle: Golem).

Amazon hat sein KI-Videomodell Nova Reel verbessert, wodurch es nun Videos mit einer Länge von bis zu zwei Minuten generieren kann. Das Modell Nova Reel 1.1 kann “Multi-Shot”-Videos mit einem “konsistenten Stil” über verschiedene Aufnahmen hinweg erzeugen. Benutzer können eine bis zu 4.000 Zeichen lange Eingabeaufforderung verwenden, um ein bis zu zwei Minuten langes Video zu erstellen, das aus sechssekündigen Aufnahmen besteht.

Nova Reel 1.1 führt auch einen neuen Modus namens “Multishot Manual” ein. In diesem Modus kann das Modell ein Bild zusammen mit einer Eingabeaufforderung referenzieren, um mehr Kontrolle über die Komposition einer Videoaufnahme zu bieten.

Nova Reel ist nur über AWS-Plattformen und -Dienste wie Bedrock verfügbar, und Kunden müssen einen speziellen Zugang beantragen. Wie bei den meisten generativen KI-Systemen gibt es Fragen, ob Reel mit ethisch einwandfreien Methoden entwickelt wurde. Amazon hat die Quelle der Trainingsdaten von Reel nicht bekannt gegeben und auch keine Möglichkeit für Urheber geschaffen, sich abzumelden (Quelle: TechCrunch).

Googles NotebookLM erweitert seine Fähigkeiten um die automatische Quellensuche. Nutzer beschreiben ein Thema, woraufhin das KI-Tool mit Google Gemini relevante Quellen sammelt, analysiert und bis zu zehn Empfehlungen mit Zusammenfassungen liefert. Diese Quellen können dann per Klick importiert und für weitere Aufgaben genutzt werden, wie beispielsweise das Schreiben von Abhandlungen oder das Erstellen von Audio-Zusammenfassungen. Ein neues Feature namens “I’m Feeling Curious” ermöglicht es Nutzern, die automatische Quellensammlung in NotebookLM auszuprobieren. Das Feature “Discover Sources” wird aktuell für alle Nutzer ausgerollt, was bis zu einer Woche dauern kann.