„Du sollst nicht töten!“

OpenAI & Co. haben ihren Schützlingen einige ethische Schranken eingebaut, die verhindern sollen, dass böswillige Zeitgenossen mit ihrer Hilfe Verbrechen begehen.

Wie wirksam diese Schranken sind, hat ein Ingenieur kürzlich anschaulich gemacht, als er eine Art Roboter vorführte, der auf gesprochene Anweisungen hin ein Gewehr in die gewünschte Richtung abfeuerte. ChatGPT, dessen „Intelligenz“ in diesem Roboter steckte, hat ganz offenbar nicht die leiseste Schießhemmung.

Bei OpenAI war man nicht angetan: Der Ingenieur verlor sofort sein Benutzerkonto, und darf in Zukunft ChatGPT nicht mehr verwenden.

Der Ingenieur wollte mit seiner Entwicklung wohl nur ein Konzept beweisen, und die abgefeuerten Projektile waren de facto völlig ungefährlich. Seine Entwicklung zeigt aber, welches schädliche Potenzial in KI schlummert.

Gleichzeitig war seine Sperrung eine der mutigsten Aktionen, die ein Big Tech-Unternehmen in der letzten Woche gewagt hat.

Die NRA hat zwar nicht explizit das in der US-Verfassung verankerte Recht auf das Tragen von Waffen auch für KIs geltend gemacht. Aber immerhin hat OpenAI der Waffenlobby einen vorauseilenden Gehorsam verweigert.

In einer Zeit, in der der Rest von Big Tech in erster Linie auf „bloß keinen Ärger“ setzt, darf dieser Schritt als mutig gelten.

Wir werden in diesem Jahr wohl die kleinen Überraschungen feiern müssen.

Zum Hintergrund: Ein Ingenieur hat ein ChatGPT-gesteuertes Robotergewehr entwickelt, was zur sofortigen Sperrung seines OpenAI-Kontos führte. Das System reagiert auf Sprachbefehle und kann automatisch zielen und feuern. Ein virales Video zeigt die Waffe in Aktion, die auf verbale Anweisungen reagiert und ihre Ausrichtung anpasst. OpenAI begründet die Sperrung mit Verstößen gegen die Nutzungsrichtlinien, insbesondere das Verbot der Waffenentwicklung mit ihrer KI-Technologie. Der Vorfall löste Diskussionen über die potenziellen Gefahren von KI-gesteuerten Waffensystemen aus (Quelle: Golem).