Schlagwort-Archiv: spionage

Nachrichten

Net-News der Woche 13'2023 -
KI in der Vertrauenskrise, Biden verbietet staatliche Spyware, Sprachmodell mit miesem Charakter – und was sonst noch wichtig war

Mozilla gründet Start-up für vertrauenswürdige KI

Das Softwareunternehmen Mozilla gründet ein eigenes KI-Start-up namens Mozilla.ai und investiert einen Millionenbetrag in die Entwicklung einer „vertrauenswürdigen“ Künstlichen Intelligenz. Das Ziel des Unternehmens ist es, eine transparente und vertrauenswürdige KI zu entwickeln, da es in der Technologie-Branche derzeit noch kein Verfahren gibt, um die Validität von Daten in KI-Systemen sicherzustellen. Mozilla hat in der Vergangenheit bereits bewiesen, dass es in der Lage ist, die Branche mit seinen Produkten aufzumischen, wie es mit dem Firefox-Browser geschah. Wie genau das KI-Ökosystem von Mozilla in der Praxis aussehen wird, bleibt jedoch abzuwarten (Quelle: Basic Thinking).

FBI beschlagnahmt Datenbank von Datenhehler-Forum

Das FBI hat die Datenbank des Datenhehler-Forums “Breachforums” beschlagnahmt, das über 340.000 Mitglieder hatte. Die Behörde hatte verdeckte Ermittler eingesetzt, um mit dem mutmaßlichen Betreiber “Pompompurin” zu kommunizieren. Nach seiner Verhaftung wurde die Website geschlossen, da der zweite Administrator “Baphomet” befürchtete, dass Behörden Zugriff auf die Website hätten. Das Justizministerium hatte festgestellt, dass die Datenbank von “Breachforums” allein im offiziellen Bereich 888 Datensätze mit mehr als 14 Milliarden Einzel-Datensätzen enthielt. Pompompurin droht eine Höchststrafe von fünf Jahren Gefängnis (Quelle: Heise).

US-Präsident Biden verbietet Einsatz von Spionagesoftware

US-Präsident Joe Biden hat den Einsatz von kommerziellen Staatstrojanern durch US-Behörden weitgehend verboten, um Menschenrechte und nationale Sicherheit zu schützen. Die Entscheidung folgt auf jahrelange Warnungen von Menschenrechtsaktivisten und Sicherheitsforschern vor den Risiken solcher Spionagesoftware. Die Biden-Administration will damit auch Standards für andere Regierungen und Verbündete setzen. Behörden dürfen nur nach umfangreichen Nachweisen kommerzielle Malware-Produkte einsetzen (Quelle: WinFuture).

Archive.org darf keine urheberrechtlich geschützten Bücher mehr verleihen

Ein Bezirksgericht in New York hat einer Klage von vier großen US-Verlagen gegen die Non-Profit-Organisation Internet Archive stattgegeben. Die Verlage werfen dem Internet Archive vor, urheberrechtlich geschützte Bücher in digitaler Form ohne Lizenzgebühren verliehen zu haben. Die Organisation, bekannt für ihre Wayback Machine und Open Library, plant gegen das Urteil in Berufung zu gehen und beruft sich auf die Fair-Use-Regelung. Internet-Archive-Gründer Brewster Kahle sieht das Urteil als Schlag gegen Bibliotheken, Leser und Autoren (Quelle: t3n).

Offener Brief: KI-Experten fordern sofortige Trainingspause

Hunderte prominente KI-Experten, Tech-Unternehmer und Wissenschaftler haben in einem offenen Brief eine Pause in der Entwicklung und dem Testen von KI-Technologien gefordert, die leistungsfähiger sind als OpenAIs Sprachmodell GPT-4. Sie wollen, dass die damit verbundenen Risiken angemessen untersucht werden. Der von der Future of Life Institute verfasste Brief warnt vor der möglichen Automatisierung von Arbeitsplätzen und der Verbreitung von Fehlinformationen durch Sprachmodelle wie GPT-4. Zu den Unterzeichnern gehören Yoshua Bengio, Yuval Noah Harari, Jaan Tallinn und Elon Musk. Der Brief schlägt nicht vor, wie ein Entwicklungsstopp überprüft werden könnte, fügt jedoch hinzu, dass Regierungen einspringen und ein Moratorium verhängen sollten, wenn eine solche Pause nicht schnell umgesetzt werden kann. OpenAI, Microsoft und Google haben bisher nicht auf den Brief reagiert (Quelle: Wired).

FreedomGPT: Sprachmodell ohne moralischen Kompass

Der Textgenerator FreedomGPT, entwickelt vom US-amerikanischen Team Age of AI, verzichtet auf ethische Filter und generiert somit auch beleidigende oder rassistische Inhalte. Das auf der Open-Source-Technologie Alpaca basierende Sprachmodell kann beispielsweise Lob für Adolf Hitler aussprechen oder Verschwörungstheorien zur US-Wahl 2020 verbreiten. Die KI reagiert jedoch in anderen Fällen wie herkömmliche KI-Programme und kann auch Gräueltaten der Nazi-Diktatur beschreiben. FreedomGPT ist online oder lokal auf dem Desktop verfügbar, allerdings sind die Server derzeit überlastet (Quelle: Golem).

Corona-Warn-App geht im Sommer in den Ruhestand (einstweilen)

Die Corona-Warn-App (CWA) soll am 1. Juni 2023 in den Schlafmodus versetzt werden, wobei die Warnfunktion nach einem positiven Test noch bis zum 30. April 2023 funktionieren soll. Die laufenden Verträge mit SAP und T-Systems enden am 31. Mai 2023. Die Entwicklung und der Betrieb der CWA kosteten 2020 etwa 52,8 Millionen Euro, während für 2021 rund 63,5 Millionen Euro für Weiterentwicklung und Betrieb ausgegeben wurden. Seit ihrer Einführung vor etwa drei Jahren wurde die App über 48 Millionen Mal installiert, wobei knapp neun Millionen Menschen positive Testergebnisse geteilt haben, um andere Nutzer zu warnen (Quelle: Computerwoche).

Nachrichten

Überwachung bei Onlineklausuren: GFF verklagt Uni

Onlineklausuren bei eingeschalteter Webcam: So mussten viele Studenten in den letzten Jahren Prüfungen ablegen. Mit einer Klage will die Gesellschaft für Freiheitsrechte e. V. (GFF) klären lassen, ob die von der Uni Erfurt bei Onlineklausuren genutzte Überwachungstechnik rechtens war.

Automatische, KI-gestützte Gesichtserkennung und Spyware auf den Rechnern gehören zum Konzept, mit dem die Verantwortlichen der Uni Erfurt ihre Studenten bei Onlineklausuren vom Schummeln abhalten wollen. Damit “greift die Universität unverhältnismäßig in die Privatsphäre der Studierenden ein und verletzt ihre Grundrechte”, so heißt es in einer Pressemitteilung der GFF.

Erhoben hat die GFF die Klage gemeinsam mit einer Studentin und dem „freien zusammenschluss von student*innenschaften“ (fzs) beim Landgericht Erfurt. Die Studentin musste wie viele Mitstudierende weltweit in den ersten Jahren der Corona-Pandemie Online-Prüfungen absolvieren, die Prüfungsleistungen aus der Ferne und ohne Infektionsrisiko ermöglichten. Auch bei der GFF sieht man darin grundsätzlich eine sinnvolle Ergänzung zu Präsenzprüfungen. Aber, so David Werdermann, Jurist und Verfahrenskoordinator der GFF, “Gesichtserkennung und Spähsoftware auf den Rechnern von Studierenden sind unverhältnismäßig und verletzen Grundrechte.”

Die GFF führt insbesondere ins Feld, dass es weit weniger gravierende Eingriffe durch reine Beobachtung und alternative Prüfungskonzepte wie Open-Book-Klausuren und mündliche Examen gibt. Beim derzeit eingesetzten Verfahren werden die Webcam-Aufnahmen hingegen gespeichert und zur Auswertung an Amazon Web Services übertragen. Die dort eingesetzte KI soll so Täuschungsversuche entlarven.

Nachrichten

Zweifel an “authentischer Handlungsfähigkeit” – BSI warnt vor Kaspersky

Das Bundesamt für Sicherheit in der Informationstechnik, BSI, warnt vor dem Einsatz von Virenschutzsoftware des russischen Herstellers Kaspersky. Konkrete Anhaltspunkte für Spionage- oder Sabotageaktionen mit Hilfe der Schutzsoftware gibt es indessen nicht.

Das BSI begründet seine aktuelle Warnung mit “von russischer Seite ausgesprochenen Drohungen gegen die EU, die NATO und die Bundesrepublik Deutschland”, die sich nach dem Einmarsch russischer Truppen in die Ukraine eindeutig gegen Russland positioniert haben.

In der Meldung des BSI heißt es unter anderem:

Ein russischer IT-Hersteller kann selbst offensive Operationen durchführen, gegen seinen Willen gezwungen werden, Zielsysteme anzugreifen, oder selbst als Opfer einer Cyber-Operation ohne seine Kenntnis ausspioniert oder als Werkzeug für Angriffe gegen seine eigenen Kunden missbraucht werden.

Gleichzeitig warnt das BSI aber auch vor übereilten Aktionen (Anmerkung des Autors: Angesichts einer solchen Warnung drei Wochen nach Kriegsausbruch hat man beim BSI wohl eine sehr spezielle Definition von “übereilt”): “Würden IT-Sicherheitsprodukte und insbesondere Virenschutzsoftware ohne Vorbereitung abgeschaltet, wäre man Angriffen aus dem Internet möglicherweise schutzlos ausgeliefert.”

Angesichts der sehr weitreichenden Berechtigungen, die Virenschutzsoftware generell benötigt, ist das Potenzial, den Zweck dieser Software in ihr Gegenteil zu verkehren, unbestritten. Konkrete Anhaltspunkte, dass Kaspersky-Software für Spionage- oder Sabotageakte missbraucht würde, gibt es allerdings derzeit nicht.