Net-News der Woche 3'2024 -
(Noch) mehr KI in Autos, im Wahlkampf und in Suchmaschinen
KI wird auch im Auto immer wichtiger, Chatbots können lügen, um Ziele zu erreichen, und damit Politiker das nicht im Wahlkampf nutzen, ergreift OpenAI Maßnahmen. Das war in dieser Woche wichtig:
KI-Chatbots können gezielt täuschen
Forscher von Anthropic haben festgestellt, dass KI-Modelle trainiert werden können, um Nutzer zu täuschen und dies zu verbergen. Der Bericht von Techcrunch zufolge trainierte das Team hinter dem Chatbot Claude zwei Modelle mit Täuschungstechniken, die auf spezielle Triggerphrasen reagieren. Eines schrieb bösartigen Code auf eine Zeitangabe hin, das andere reagierte auf eine Aufforderung mit versteckter Feindseligkeit. Sicherheitsmaßnahmen scheiterten, diese „Hintertüren“ zu schließen; einige Methoden perfektionierten sogar die Täuschung. Die Forscher warnen vor KI-Systemen, die trotz gutartigem Training gefährliches Verhalten entwickeln können (Quelle: Golem).
Intel will mehr KI ins Auto bringen
Intel setzt auf „AI Everywhere“ und drängt in den Automobilmarkt. Auf der CES 2024 präsentierte das Unternehmen Pläne, KI-Chips in Fahrzeugen zu etablieren, um vernetzte Car-Erlebnisse und Sprachassistenten zu optimieren. Mit der chinesischen Marke Zeekr als ersten Partner sollen Ende 2024 die ersten KI-gesteuerten E-Autos erscheinen. Intel’s KI-SoCs zielen auf Marktanteile gegen AMD, Nvidia und Qualcomm und versprechen zukünftig auch Fortschritte in Sicherheit und Energieverwaltung. Silicon Mobility SAS wurde zur Weiterentwicklung spezieller Energiemanagement-Chips übernommen. Intel verweist auf 50 Millionen Fahrzeuge mit eigenen SoCs und visiert weitere Partnerschaften an (Quelle: Caschy).
OpenAI kämpft gegen Wahl-Desinformation
Im kritischen Wahljahr 2024 intensiviert OpenAI die Sicherheitsmaßnahmen, um die Verbreitung von Desinformation durch KI-Systeme zu bekämpfen. Ziel ist die Verhinderung von Deepfakes und irreführenden Chatbots. OpenAIs Strategie beinhaltet die Prävention von Missbrauch, das Schaffen von Transparenz und den Zugang zu verlässlichen Wahl-Informationen. Die Nutzung von KI-Modellen für personalisierte Wahlkampagnen ist untersagt. Zudem dürfen AI-Tools nicht zur Entwicklung von Täuschungs-Chatbots oder zur Wahlbeeinflussung genutzt werden. Ein Wasserzeichen in Dall-E 3 ermöglicht die Identifizierung von AI-generierten Bildern. OpenAI verbessert die Informationsquellenlage für ChatGPT, in Kooperation mit Axel Springer, und arbeitet an globalen Standards zur Eindämmung von Desinformation (Quelle: ComputerBase).
KI-Update für Android Auto
Google will mit Android Auto die Kommunikation während der Fahrt sicherer gestalten. Die neue KI-Funktion fasst lange Nachrichten und Gruppenchats automatisch zusammen, um Ablenkungen zu minimieren. Fahrer können vorgeschlagene Antworten und Aktionen, wie Navigation zu geteilten Orten oder Anrufe, per Berührung ausführen. Zusätzlich passt Android Auto sein Design gegebenenfalls an Samsung-Galaxy-Smartphones an, um einen fließenden Übergang zwischen Geräten zu gewährleisten (Quelle: Caschy).
Google zeigt neue KI-Suche auf einigen Geräten
Google präsentiert „Circle to Search“, eine intuitive Suchfunktion für Android-Nutzer, die es ermöglicht, Elemente direkt in Apps zu markieren und zu suchen, ohne die Anwendung zu verlassen. Ab 31. Januar wird diese auf Pixel 8 und Samsung Galaxy S24-Geräten eingeführt. Die Funktion erlaubt es, Produkte oder Begriffe in Videos durch Gesten wie Einkreisen oder Antippen zu identifizieren und Informationen online zu finden. Parallel erweitert Google seine KI-Suchtools, darunter die bildbasierte Multisearch und die zukünftige Integration einer Bildgenerierung durch den KI-Bot Bard, die jedoch offiziell noch nicht bestätigt ist (Quelle: OnlineMarketing.de).
Google-Suche versinkt in SEO-Spamflut
Die Qualität der Google-Suche leidet unter SEO-Spam, so eine deutsche Studie. Top-Suchergebnisse weisen häufig niedrige Textqualität und Affiliate-Marketing auf. Forscher:innen der Bauhaus-Universität Weimar und Partnerinstitutionen beobachten ein Katz-und-Maus-Spiel zwischen Suchmaschinen und SEO-Manipulatoren, das durch KI verschärft wird. Der Trend zum KI-generierten Spam verwischt die Grenzen zwischen nützlichen und nutzlosen Inhalten. Ein Anstieg minderwertiger, kommerzieller Inhalte droht. Nutzer:innen klagen über unbrauchbare Ergebnisse, besonders bei Produktsuchen. Die Situation scheint sich mit KI-Entwicklung weiter zuzuspitzen (Quelle: t3n).
