Googles AI Overview: Ein erwartetes Desaster

Googles neue KI-Suchmaschine, die einen „AI Overview“ bietet, wurde auf der Entwicklerkonferenz I/O 2024 vorgestellt und in den USA schrittweise eingeführt. Der Start verlief katastrophal, da die generierten Antworten oft irreführend oder falsch waren. Ein Beispiel: Die Empfehlung, ungiftigen Klebstoff zu verwenden, um heißen Käse auf der Pizza zu halten. Diese Probleme sind bei Large Language Models bekannt, doch die Ergebnisse von AI Overview waren besonders abenteuerlich. Google steht nun vor der Herausforderung, diese Fehler zu beheben, sich möglichen rechtlichen Konsequenzen zu stellen, und den entstandenen Imageschaden zu beheben (Quelle: ComputerBase).

Dirk meint: „Der Kaiser ist ja nackt!“ – so richtig wollte das kaum jemand wahrhaben, als Google seinen Chatbot „Bard“ vorstellte. Dass der dem Early Bird ChatGPT nicht das Wasser reichen konnte, sprach sich dennoch schnell herum. Um den Imageschaden auszubügeln, gab Google seinem Baby den neuen Namen „Gemini“, und versprach gleich ein paar neue Funktionen, die unglaublich beeindruckend gewesen wären, hätte Google sich dabei nicht ein paar nachweisbare Schummeleien erlaubt.

Und nun die nächste Peinlichkeit (die angesichts der Grenzen aktueller Sprachmodelle zu erwarten war). Mensch, liebe Google-Verantwortliche: „Underpromise and overdeliver“ predigen Marketingprofis rund um den Globus. Nicht umgekehrt! Kann ja sein, dass beim aktuellen Stand der Technik gerade nicht mehr möglich ist. Das würden die Nutzer euch aber sicher eher verzeihen, wenn Ihr ihnen nicht das Blaue vom Himmel versprochen hättet. „Der Kaiser ist ja nackt!“, heißt es jetzt, statt dass jemand eure neuen Kleider bewundert.