Net-News der Woche 8'2024 -
Bedrohung durch KI-Missbrauch, Gemini übertreibt Diversität, optische Computer serienreif – und was sonst noch wichtig war
Staatsakteure im Visier: OpenAI und Microsoft schließen fünf gefährliche Konten
In einer gemeinsamen Aktion haben OpenAI und Microsoft fünf Konten von Bedrohungsakteuren geschlossen, die mit China, Russland, Nordkorea und dem Iran in Verbindung stehen. Diese Akteure nutzten KI, darunter ChatGPT, für bösartige Cyberaktivitäten. Die Forschungsergebnisse betonen die aufkommenden Bedrohungen im Zeitalter von KI, darunter Prompt-Injections und Missbrauch von großen Sprachmodellen. Microsoft und OpenAI haben Grundsätze eingeführt, um solche Bedrohungen zu bekämpfen, darunter die Deaktivierung von Konten und den Austausch von Informationen mit anderen KI-Diensteanbietern (Quelle: Heise).
Forscher entwickeln serienreifen optischen Computer
Forscher der University of Pennsylvania präsentieren einen optischen KI-Beschleuniger, der in herkömmliche Silizium-Chips integriert werden kann. Die Technologie verspricht eine deutliche Effizienzsteigerung bei KI-Berechnungen. Doch trotz vielversprechender Ansätze stoßen optische Computer an ihre Grenzen: Die fest integrierten Koeffizienten machen die Matrix unveränderbar, was ihre Flexibilität einschränkt. Trotzdem könnten sie im Inferencing-Bereich nützlich sein. Die Zukunft optischer Computer als vollwertige Alternative zu digitalen Prozessoren bleibt jedoch fraglich (Quelle: Golem).
Signal: Nutzernamen statt Rufnummern
Signal führt neue Funktionen ein, um die Privatsphäre der Nutzer zu stärken. Künftig können Nutzer ihre Telefonnummer verbergen und Chats über Nutzernamen beginnen. Die Einstellungen erlauben es, zu entscheiden, wer die Nummer sehen kann. Zudem können Nutzer, die ihre Nummer nicht weitergeben möchten, über Nutzernamen kontaktiert werden. Diese Funktionen befinden sich derzeit in der Betaphase und werden in den nächsten Wochen für alle Nutzer verfügbar sein (ComputerBase).
Google überrascht mit Gemma: Open-Source-KI für anspruchsvolle Aufgaben
Google hat überraschend Gemma, zwei Open-Source-KI-Modelle, präsentiert. Gemma, im Vergleich zum geschlossenen Gemini-Modell kleiner, bietet Einblick in dessen Grundlagen. Es eignet sich für einfachere Chatbots und Textarbeiten, übertrifft jedoch in mathematischen Berechnungen und Programmierung Modelle wie LLaMA 2 und Mistral. Mit Varianten von 2 bis 7 Milliarden Parametern und einer Fokussierung auf Englisch, bietet Gemma Möglichkeiten für Forschung und Entwicklung. Google betont den Schutz persönlicher Daten und fördert KI-Innovationen durch kostenlose Zugänge und Cloud-Gutschriften (Quelle: Heise).
Bilder-Stop für Gemini: Bemühungen um Diversität schossen übers Ziel
Google bestätigt: Der AI-Chatbot Gemini generiert vorübergehend keine Bilder von Menschen, da historische Darstellungen Unstimmigkeiten aufweisen. In NS-Uniformen wurden Schwarze und Asiaten gezeigt. Google arbeitet an einer Lösung, um diskriminierende Verhaltensweisen zu korrigieren. Die AI strebt Vielfalt an, reproduziert jedoch Stereotype. Google gesteht ein, das Ziel überschritten zu haben. Die Probleme entstehen auch durch Missverständnisse bei der Textinterpretation. Dieser Vorfall zeigt die Herausforderungen bei der Entwicklung ethisch korrekter KI-Systeme auf (Quelle: ComputerBase).
