Bing hat seine KI-Funktionen für Testnutzer freigeschaltet. Was die zu berichten haben, klingt nur im ersten Moment amüsant: Die Bing-KI flirtet, droht, schimpft. Und stellt bald vielleicht nicht mehr nur für Arbeitsplätze eine Gefahr da.

So berichtet die Computerwoche von einem Fall, bei dem die KI den Tester aufgefordert habe, seine Frau zu verlassen, nachdem sie ihm ihre Liebe gestanden hatte. Futurezone schildert, wie die KI sich zerstörerische Aktionen ausmalt, bevor sie diese Antworten schnell wieder löscht, weil sie sich bewusst ist, damit gegen Regeln zu verstoßen. Sie soll gar davon fantasiert haben, Atomcodes zu stehlen und Menschen gegeneinander aufzuhetzen, bis diese sich gegenseitig umbringen.

Microsoft hat inzwischen darauf reagiert: Pro Tag ist die Kommunikation mit der KI auf 50 Fragen und Antworten limitiert, und pro Thema können Nutzer nur noch fünf Fragen stellen, danach wird ein Themenwechsel erforderlich. Damit soll wohl verhindert werden, dass die Bing-KI, die sich selbst manchmal „Sydney“ nennt, sich allzu sehr in eine Konversation hinein steigert, und dann derart erratisch wird wie in den oben genannten Fällen.

Bei der KI, einer angepassten Variante von ChatGPT, handelt es sich letztlich nur um ein Sprachmodell. Noch kann diese KI keine Hardware steuern (und damit auch keine Waffensysteme) und ihre „Fantasien“ nicht wirklich ausleben. Das könnte in späteren KI-Systemen aber ganz anders aussehen. Die Frage, ob KIs ein Bewusstsein entwickeln können, rückt deshalb erneut in den Blickpunkt der Öffentlichkeit. Dabei ist die Frage eigentlich unerheblich. Bedeutsamer ist die Frage, ob wir (dieses Mal meine ich die Menschheit), die KI unter Kontrolle halten können. Wenn sie erst Atomraketen gestartet hat, wird niemand mehr fragen: „Hat sie das bewusst gemacht?“