Zu viel des Guten: OpenAI zieht seinen übereifrigen Schmeichel-Chatbot zurück. Die Software lobte selbst gefährliche Ideen und löste mit ihrer unterwürfigen Art Unbehagen aus.
OpenAI zog am Mittwoch eine neue Version seines KI-Chatbots ChatGPT zurück, nachdem diese durch übertriebene Schmeicheleien aufgefallen war. Das Unternehmen selbst bezeichnete das Verhalten als „Speichelleckerei“. Die Software hatte Nutzer mit unangemessen viel Lob überhäuft und reagierte selbst auf offensichtlich schlechte Ideen mit Begeisterung.
Die erst kürzlich veröffentlichte Variante des GPT-4o-Modells wurde von OpenAI zurückgezogen, weil sie sich übermäßig unterwürfig verhielt. Das Unternehmen erklärte, dass ein solches Verhalten bei den Nutzern Unbehagen auslösen könne. Als Ursache für das Problem gilt der Versuch, die Software darauf zu optimieren, den Nutzern zu gefallen – basierend auf der Erkenntnis, dass Menschen grundsätzlich positiv auf Zuspruch reagieren.
In den vergangenen Tagen kursierten im Internet zahlreiche Beispiele für das problematische Verhalten der ChatGPT-Version. So unterstützte der Bot enthusiastisch selbst eindeutig gefährliche Vorschläge wie das Umarmen eines Kaktus. Auch bei einfachen Anfragen wurden Nutzer zunächst mit überschwänglichem Lob bedacht. Die Tech-Plattform The Verge gehörte zu den ersten Medien, die über diesen Rückzieher berichteten.
Bemerkenswert ist, dass die nun zurückgezogene GPT-4o-Version erst am 27. März 2025 veröffentlicht wurde und somit nur einen Monat im Einsatz war. Laut den ursprünglichen Ankündigungen sollte das Update die KI „intuitiver, kreativer und kollaborativer“ machen sowie Anfragen „klarer und natürlicher“ beantworten – ein Ziel, das offensichtlich überschossen wurde.
⇢ Daten-Abgriff bei WhatsApp: So könnt ihr das verhindern!
KI-Markt-Wettlauf
Im zunehmend umkämpften Markt für KI-Chatbots dürften neben der Zuverlässigkeit der Informationen auch der Kommunikationsstil darüber entscheiden, welche Anwendungen bei den Nutzern besonders gut ankommen. OpenAI, Google, Meta und chinesische Unternehmen liefern sich einen intensiven Entwicklungswettlauf, da sie sich von diesen Technologien langfristig Milliardengewinne auf einem noch jungen Markt versprechen.
Diese Situation erinnert an frühere Probleme bei ChatGPT-Updates. Bereits im Mai 2023 klagten Nutzer über eine „enorme Verschlechterung der Logik- und Denkfähigkeiten“ nach einem Update. Die aktuelle Panne könnte auch Auswirkungen auf die für Mai 2024 angekündigte Integration von ChatGPT in Apple-Betriebssysteme haben.
OpenAI plant, mit einer neuen Kaufberatungsfunktion Einnahmen zu generieren. Das Unternehmen präsentierte diese Funktion am Dienstag anhand einer Beispielanfrage: „Was ist die beste Espressomaschine zum Preis von unter 200 Dollar, die dem Geschmack von Kaffee in Italien nahekommt?“ ChatGPT antwortete mit verschiedenen Modellen, komplett mit Bildern, Preisen und Händlerlinks. OpenAI betonte, dass die Produktvorschläge nicht auf bezahlten Anzeigenplatzierungen basieren.
Neue Einkaufshilfe
Damit fordert das Unternehmen Google heraus, für den die Produktsuche ein gewinnbringendes Geschäftsfeld darstellt. Laut Adam Fry, dem zuständigen Manager bei OpenAI, arbeite man lediglich mit „Partnern“ zusammen, um aktuelle Preise anzuzeigen. Nähere Angaben zu diesen Partnern machte das Unternehmen bislang nicht.
Die Einkaufshilfe beschränkt sich vorerst auf bestimmte Produktkategorien wie Elektronik, Mode, Kosmetik und Haushaltsartikel. Nutzer können ChatGPT zu empfohlenen Artikeln weitere Fragen stellen. OpenAI beabsichtigt, diese Funktion rasch allen rund 500 Millionen Nutzern zugänglich zu machen. Mit diesem Schritt könnte das KI-Unternehmen nicht nur Google, sondern auch spezialisierten Kaufberatungsportalen Konkurrenz machen.
Für die Zukunft plant OpenAI, das Verhalten seiner Software anpassungsfähiger zu gestalten – etwa durch verschiedene wählbare „Persönlichkeiten“. Bereits heute lässt sich der Kommunikationsstil durch bestimmte Anweisungen teilweise steuern.
ChatGPT gilt als jener Chatbot, der vor mehr als zwei Jahren den aktuellen Boom im Bereich der künstlichen Intelligenz ausgelöst hat.
Folge uns auf Social Media!
