Dieses Bild wurde mit der KI Midjourney erstellt. Der Prompt lautete: "illustration of a friendly looking robot, presenting newspapers, looking at the camera. --ar 3:2"
Midjourney/Der Standard

Es ist ein offenes Geheimnis, dass jeder KI-Chatbot dann und wann halluziniert, doch bei ChatGPT sind vergangene Woche die Leitungen komplett durchgebrannt. Der bekannteste Vertreter des KI-Booms redete kurzzeitig nur noch wirren Kauderwelsch – bis die Developer von OpenAI einschritten und den technischen Fehler behoben.

Das ist ein prominentes, aber nicht das einzige Beispiel für KI-Versagen in dieser Woche: Auch Internet-Gigant Google musste bei seinem KI-Bot Gemini die Möglichkeit, Bilder von Menschen zu generieren, stoppen, nachdem damit historisch inakkurate Bilder erstellt wurden.

Diese Probleme haben ihren Ursprung teils in den Modellen der Anbieter, andere Schwierigkeiten entstehen auf der Seite der Anwender. Etwa im Bereich des Enkeltricks: So wird Voice-Cloning-Technologie von Kriminellen genutzt, um die Stimmen von Verwandten zu klonen und meist ältere Personen um ihr Erstspartes zu betrügen.

Ebendiese Technologie wurde auch schon zum Nachahmen diverser Politikerstimmen verwendet, weshalb unter anderem OpenAI-Chef Sam Altman ein verstärktes Aufkommen von Fake-Inhalten im Superwahljahr erwartet. Damit gehört OpenAI auch zu jenen 20 Unternehmen, die sich im Rahmen der Münchner Sicherheitskonferenz zur Bekämpfung von KI-manipulierten Inhalten verpflichtet haben.

KI zieht in den Krieg

Relevant sind diese Probleme, weil sie direkten Einfluss auf unser Leben haben. Im Social Web verbreitete Fake-Inhalte können Wahlen beeinflussen, das Entlarven von Onlinebetrügern wird immer schwieriger. Und wenn KI-Tools zunehmend im Arbeitsleben eingesetzt werden und dort teils auch menschliche Kollegen ersetzen, sollten sie verlässlich funktionieren. Was sie offenbar nicht immer tun.

Doch das hindert Entscheidungsträger nicht daran, die Technologie in einem besonders heiklen Bereich einzusetzen: dem Militär. Dies wurde in der vergangenen Woche gleich an mehreren Stellen deutlich. So wollen die Nato-Staaten tausende Drohnen mit KI-Technik an die Ukraine liefern. Das Pentagon evaluiert den Einsatz von Large Language Models für Spionage und Missionsplanung. Und Australien möchte gar Kriegsschiffe kaufen, die via KI gesteuert werden. Eine Crew ist nicht nötig.

Kein Wunder angesichts dieser Entwicklungen, dass in einem aktuellen Paper der Universität von Cambridge eine "Notbremse" für KI-Systeme gefordert wird, mit welcher diese im Notfall hardwareseitig abgeschaltet werden können. Die Idee ist inspiriert von Sicherheitsvorkehrungen bei der Kontrolle von Nuklearwaffen.

Money, Money, Money

In der Zwischenzeit fließen die Dollar, und neue Produkte schießen weiterhin wie Pilze aus dem Boden. So wird OpenAI inzwischen mit 80 Milliarden Dollar bewertet, und Nvidia – der Schaufelhersteller im KI-Goldrausch – übertraf bei der aktuellen Quartalsbilanz erneut die Erwartungen der Analysten. Manchen Beobachtern ist das nicht ganz geheuer, sie sehen bereits Parallelen zur Dotcom-Blase rund um die Jahrhundertwende.

Im laufenden Produktfeuerwerk hat Google diese Woche mit Gemini Business eine Lösung für den Unternehmenseinsatz vorgestellt, bei der die eingegeben Daten nicht zum Training des Modells verwendet werden. Das in Chrome integrierte "Help me write"-Tool kann – derzeit nur in den USA – Sätze in Onlineformularen vervollständigen. Zuvor hatte OpenAI mir der Video-KI Sora die Wogen hochgehen lassen, mit der neben Videos auch dreidimensionale Gaming-Welten simuliert werden können.

Ein KI-Assistent von Adobe soll ermöglichen, Inhalte eines PDFs per Chat zu erfragen. Windows Photos kriegt KI-Funktionen zum Entfernen von Objekten. Die dritte Version von Stable Diffusion wurde angekündigt. Und auch das eher passiv wirkende Apple dürfte gar nicht so untätig sein: Diese Woche wurde bekannt, dass der Konzern aus Cupertino 2023 mehr KI-Firmen übernommen hat als Google, Meta und Microsoft.

Falls es Ihnen in dieser Ausgabe unseres Newsletters nun etwas zu viel um Krieg und Geld ging, gibt es zum Abschluss noch ein besonderes Schmankerl für die Ohren: Wir haben ein KI-Tool entdeckt, mit dem sich in wenigen Klicks personalisierte Liebeslieder erstellen lassen. (Stefan Mey, 24.2.2024)